Uluslararası Af Örgütü, yapay zekâ ve algoritmik sistemlerin yol açtığı insan hakları ihlallerini araştırmak ve görünür kılmak isteyen gazeteciler, sivil toplum örgütleri, hak savunucuları, akademisyenler ve bu ihlallere maruz kalan kişilerin kullanımına açık kapsamlı bir “Algoritmik Sorumluluk” kılavuzu yayımladı.

Birçok hükümet ve şirket yapay zekânın toplumsal fayda sağladığını savunsa da kılavuz, bu teknolojilerin pratikte önyargıları derinleştirdiğini, dışlama ve hak ihlallerine zemin hazırladığını ortaya koyuyor. Rehber; sosyal güvenlik, polislik, eğitim ve sağlık hizmetleri gibi kamu alanlarında hayatın ayrılmaz bir parçası haline gelen algoritmik sistemlerin yol açtığı zararların nasıl araştırılacağına dair bir “nasıl yapılır” yaklaşımı sunuyor.

Üç yıllık araştırma ve uluslararası işbirliklerine dayanan kılavuzda, şeffaf olmayan yapay zekâ sistemlerini incelemek için kullanılan araçlar, adımlar, pratik şemalar ve aynı zamanda kampanya, iletişim, savunuculuk ve stratejik dava yöntemleriyle değişim yaratmayı hedefleyen kapsamlı taktikler yer alıyor.

“KİTLESEL GÖZETİMİ KOLAYLAŞTIRIYOR, HAKLARIMIZI KISITLIYOR”

Uluslararası Af Örgütü Teknoloji Birimi Program Direktörü Damini Satija, yapay zekâ sistemlerinin yalnızca verimlilik iddiasıyla masumlaştırılamayacağını belirterek, bu teknolojilerin sosyal koruma hakkına zarar verdiğini, kitlesel gözetimi kolaylaştırdığını ve protesto özgürlüğü ile eşitlik ilkesini tehdit ettiğini ifade etti. Satija, kılavuzun amacının bilgiyi demokratikleştirmek ve bu sistemlerin zararlarını açığa çıkarma mücadelesine kolektif güç kazandırmak olduğunu vurguladı.

DOKUZ ÜLKEDEN ÇALIŞMA ÖRNEKLERİ KILAVUZA YÖN VERDİ

Rehber, Uluslararası Af Örgütü’nün Danimarka, İsveç, Sırbistan, Fransa, Birleşik Krallık, Hindistan, İşgal Altındaki Filistin Toprağı, ABD ve Hollanda’da yürüttüğü araştırmalara dayanıyor. Bu çalışmalardan biri, Danimarka’nın yapay zekâ destekli sosyal yardım sisteminin engelli bireyler, göçmenler, mülteciler ve düşük gelirli kişiler üzerinde ayrımcılık riski oluşturduğunu ortaya koydu.

Örgütün yürüttüğü “Ban the Scan” (Gözetleme Yasaklansın) kampanyası da yüz tanıma teknolojilerinin yasaklanması çağrısını güçlendiriyor. Kampanya; İşgal Altındaki Filistin Toprağı, New York ve Haydarabad’da yapılan araştırmalara dayanarak hükümetlerin bu teknolojileri denetimsiz kullanmasının toplumsal hak ve özgürlükler açısından kritik riskler barındırdığını savunuyor.