Avusturya Federal İstihdam Servisi (Public Employment Service), iş arayanların işgücü piyasasına entegrasyon şansını tahmin etmek için AMAS adlı bir yapay zekâ modeli geliştirmişti. Bu model, yaş, cinsiyet, eğitim ve kariyer geçmişi gibi kişisel verileri kullanarak bireylerin iş bulma olasılıklarını hesaplıyordu.
Kurum, modelin 2021’den itibaren danışmanlar için zorunlu hale gelmesini planlamış, ancak kullanımın yalnızca “ikinci görüş” niteliğinde olmasını sağlamak üzere önlemler almıştı. Danışmanlar AMAS skorlarını açıklamak, bağımsız değerlendirme yapmak ve iş arayanların kaygılarını tartışmakla yükümlüydü.
DPA Ne Dedi?
Avusturya Veri Koruma Otoritesi (DPA), AMAS’ın uygun bir hukuki dayanağa sahip olmadığını ve sürecin profiling (GDPR md. 4/4) niteliğinde olduğunu belirterek sistemi yasakladı. Ayrıca, kararların danışmanlar yerine makineye bırakıldığı iddiasıyla GDPR md. 22’deki otomatik karar verme yasağının ihlal edildiğini savundu.
Mahkeme Ne Karar Verdi?
Federal İdare Mahkemesi (BVwG), DPA kararını iptal etti. Gerekçe şu şekildeydi:
- AMAS, profiling niteliğinde olsa da, otomatik karar verme sayılmaz çünkü danışmanların karar sürecinde yalnızca formal değil esaslı bir rolü vardı.
- Kurum, danışmanların insan gözetimini sağlayacak yönergeler ve eğitimler uygulamıştı.
- Bu nedenle AMAS, SCHUFA kararındaki kredi skorlama sistemiyle aynı kategoride değerlendirilemez.
- Ayrıca, ulusal mevzuata dayanılarak yapılan veri işleme meşru bir hukuki temele sahipti.
Neden Önemli?
Bu karar, “insan gözetiminin niteliği” ile “otomatize edilmiş sürecin sınırları” arasındaki farkı netleştirmesi bakımından dikkat çekici. Mahkeme, danışmanların rolünün gerçek ve etkin olmasının, süreci otomatik karar verme yasağı kapsamından çıkardığını teyit etti.
Yorumum
Bu karar, kamu kurumlarının yapay zekâ sistemlerini kullanırken yalnızca insanı sürece “eklemek” değil, onu gerçekten “karar verici” kılmaları gerektiğini bir kez daha ortaya koyuyor. Ayrıca, GDPR’deki hukuki dayanak (md. 6 ve 9) ile otomatik karar verme yasağı (md. 22) arasındaki ayrımın uygulamada nasıl şekillendiğine dair pratik bir örnek sunuyor
