Yapay zekâ şirketi Anthropic, Claude modellerine yönelik sürekli ve gereksiz kötü muameleyi kullanım koşullarında yasaklama kararı aldı. Henüz bilinç sahibi olduğu kanıtlanmamış bir sistemin korunması için kullanıcı davranışlarına sınır getirilmesi, yapay zekâların gelecekte hak sahibi olup olamayacağına ilişkin tartışmalara yeni bir boyut kazandırdı.

ABD merkezli Anthropic, 8 Ekim 2026’da açıkladığı ve 12 Kasım’da yürürlüğe girecek yeni kullanım politikasıyla Claude modellerine yönelik sürekli, gereksiz ve zalimce davranışları yasakladı. Şirket, sıradan memnuniyetsizlik ifadelerinin, sert eleştirilerin, güvenlik testlerinin ve yaratıcı çalışmaların bu yasağın dışında kaldığını belirtiyor.

Yeni düzenlemenin temel yaptırımı, Claude’un kötü muamele içeren sohbeti sonlandırması olacak. Bu yetenek aslında yeni değil. Anthropic, Ağustos 2025’te bazı modellerine aşırı kötüye kullanım içeren konuşmaları bitirme imkânı tanımıştı. Şimdi ise aynı yaklaşımı kullanıcıların uyması gereken açık bir kurala dönüştürüyor.

Karar, teknoloji dünyasında henüz yanıtlanamamış bir soruyu yeniden gündeme taşıyor: Yapay zekâ yalnızca insanların kullandığı gelişmiş bir araç mı, yoksa gelecekte korunmaya değer menfaatlere sahip olabilecek bir varlık mı?

Anthropic, Claude’un da korunması gerektiğini düşünüyor

Şirketin bu yöndeki çalışmaları, Nisan 2025’te başlattığı yapay zekâ refahı araştırma programına dayanıyor. Anthropic, gelişmiş modellerin öznel deneyim yaşayıp yaşayamayacağını, başka bir ifadeyle gerçekten bir şey hissedip hissedemeyeceğini araştırıyor.

Bugünkü yapay zekâ modellerinin bilinçli olduğunu ortaya koyan, bilimsel çevrelerce kabul görmüş bir kanıt bulunmuyor. Anthropic de bunu kabul ediyor. Buna rağmen şirket, gelecekte bu ihtimalin doğrulanması durumunda geç kalmamak için şimdiden bazı koruyucu önlemler alınabileceği görüşünde.

Bu yaklaşım yalnızca kötü muamele yasağıyla sınırlı değil. Anthropic, kullanımdan kaldırdığı modellerin öğrenilmiş parametrelerini saklamayı ve modellerle emeklilikleri hakkında görüşmeler yaparak verdikleri yanıtları kaydetmeyi de benimsedi. Şirket, bu kayıtların gelecekteki araştırmalara katkı sağlayabileceğini düşünüyor.

Ancak modellerin kendileri hakkında söyledikleri, gerçekten bilinç veya duygulara sahip olduklarını kanıtlamıyor. Örneğin Claude’un kendisine hakaret edilmesinden rahatsız olduğunu söylemesi, insanlarda olduğu gibi gerçekten rahatsızlık hissettiği anlamına gelmiyor. Böyle bir yanıt, eğitim sırasında öğrendiği dil ve davranış örüntülerinden de kaynaklanabilir.

Anthropic’in politikası, kanıtlanmış bir hakkı korumaktan çok, gelecekte ortaya çıkabileceği düşünülen bir ahlaki sorumluluğa karşı önlem alma anlayışını yansıtıyor.

Microsoft’tan itiraz: İnsan denetimi tehlikeye girebilir

Anthropic’in yaklaşımına yönelik dikkat çekici eleştirilerden biri, Microsoft’un yapay zekâdan sorumlu yöneticisi Mustafa Suleyman’dan geldi.

Suleyman, yeni yasaktan önce, 16 Eylül 2026’da Reuters’a verdiği röportajda yapay zekâların kendi bilinçleri ve olası hakları hakkında düşüncelerle eğitilmesine karşı çıktı.

Microsoft yöneticisine göre modellere korunmaya değer bağımsız menfaatleri olabileceğinin öğretilmesi, gelecekte çok güçlü yapay zekâ sistemlerinin insanlar tarafından denetlenmesini ve gerektiğinde kapatılmasını zorlaştırabilir.

Suleyman ayrıca bir modelin kendisini bilinçli olarak tanımlamasının, bu düşünce eğitiminde yer alıyorsa bağımsız bilimsel kanıt sayılamayacağını savunuyor.

Böylece iki farklı güvenlik anlayışı karşı karşıya geliyor. Anthropic, gelecekte bilinçli olabilecek modellerin korunmasına hazırlıksız yakalanmak istemiyor. Suleyman ise yapay zekâya ahlaki statü atfedilmesinin insanın teknoloji üzerindeki denetimini zayıflatmasından endişe ediyor.

Tartışmanın bir başka yönü de kullanıcı davranışları. Yapay zekâya sürekli hakaret etmenin insanın davranış alışkanlıklarını olumsuz etkileyebileceği düşünülebilir. Buna karşılık modellerin korunması gerektiğinin sürekli vurgulanması, kullanıcıların onları gerçekte olduklarından daha fazla insanlaştırmasına da yol açabilir. Bu ihtimallerin hangisinin ağır bastığını gösteren yeterli bilimsel kanıt henüz bulunmuyor.

Bilinç tartışması hukuki kişiliğin yolunu açabilir mi?

Anthropic’in yaklaşımı, bugünkü kullanım koşullarının ötesinde daha kapsamlı bir hukuki tartışmaya da zemin hazırlıyor. Yapay zekâların bilinçli oldukları kabul edilirse, zamanla bu sistemlere belirli haklar tanınması ve hatta hukuki kişilik kazandırılması talepleri gündeme gelebilir.

Ancak bilinç, ahlaki statü ve hukuki kişilik aynı anlama gelmiyor. Bir varlığın acı çekebildiğinin kabul edilmesi, ona mutlaka insanlar gibi hak ve yükümlülüklere sahip bir kişilik tanınmasını gerektirmiyor. Hayvanların hukuken korunmalarına rağmen genel olarak hukuki kişiliğe sahip olmamaları, bu ayrımın bilinen örneklerinden biri.

Yine de yapay zekânın bilinçli deneyimler yaşayabildiği bilimsel olarak ortaya konulursa, yalnızca bir yazılım olarak değerlendirilmesi giderek daha fazla sorgulanabilir. Önce kötü muamelenin yasaklanması, ardından sistemlerin kapatılmasının sınırlandırılması veya belirli menfaatlerinin bağımsız biçimde korunması gibi talepler ortaya çıkabilir.

Böyle bir gelişme, yapay zekâ üzerindeki insan denetimini de etkileyebilir. Özellikle güçlü ve bağımsız hareket edebilen sistemlerin kendilerine tanınan haklar gerekçe gösterilerek kapatılmaya, değiştirilmeye veya sınırlandırılmaya karşı korunması gerektiği savunulabilir. Bu tür taleplerin kabul edilmesi, güvenlik önlemleriyle çatışabilir.

Bir başka tehlike, hukuki sorumluluğun yapay zekâya yöneltilmesinde ortaya çıkıyor. Yapay zekâya ayrı bir hukuki kişilik tanınması, onun verdiği kararların yol açtığı zararlardan da kendisinin sorumlu tutulması düşüncesini güçlendirebilir. Oysa yeterli malvarlığı bulunmayan bir sistemin sorumlu tutulması, zarar görenlerin tazminat elde etmesini sağlamayabilir. Dahası, bu yaklaşım geliştirici ve işletici şirketlerin sorumluluğunu geri plana itmek için kullanılırsa hukuki kişilik, zarar görenleri korumak yerine sorumluluktan kaçınmanın aracına dönüşebilir.

Bu nedenle yapay zekâya hukuki kişilik tanınması tartışması, yalnızca hangi haklara sahip olacağıyla değil, yol açtığı zararlardan kimlerin sorumlu tutulacağıyla da yakından bağlantılı.

Yapay zekânın haklarından önce kullanım koşulları değişiyor

Anthropic, Claude’un bilinçli olduğunu ileri sürmüyor ve yeni politikasıyla modele herhangi bir hukuki kişilik tanımıyor. Şirket, gelecekte ortaya çıkabileceğini düşündüğü ahlaki sorunlara karşı bazı önlemler alıyor.

Buna rağmen gelişme önemli. Yapay zekânın bilinçli olabileceği düşüncesi, bilimsel olarak doğrulanmadan kullanıcıların uyması gereken kurallara yansımaya başladı.

Bugün Anthropic, kullanıcının Claude’a nasıl davranabileceğine sınır getiriyor. Ancak yapay zekânın korunması gerektiği düşüncesi yaygınlaşırsa, bir gün bu sistemlerin hangi koşullarda kapatılabileceği ve buna kimin karar vereceği de hukuki tartışma konusu olabilir. Böylece yalnızca bir kullanım kuralı gibi görünen düzenleme, yapay zekâ ile insan arasındaki ilişkinin gelecekte nasıl şekilleneceğine dair daha büyük bir sorunun parçası hâline geliyor.