Giriş
Yapay zekanın her alanda kullanımı yaygınlaşmış, hukuk da bundan yoğun biçimde etkilenmiştir. Gerek vatandaşlar gerekse hukukçuların yapay zeka araçlarını kullanarak içtihat yahut hukuki bilgi araması da olağan hale gelmiştir. Yapay zekanın ürettiği hukuki cevapların doğruluğu ise pekala şüphelidir. Evvela yapay zekanın internetin surface web kısmını tarayarak oluşturduğu çıktıların doğruluğu kendi içerisinde teyide muhtaçtır. Çünkü teyitsiz biçimde, internet üzerinde bulduğu açık erişim bilgilerden bir çıktı üretmektedir. Esas sorun ise çıktıların gerçek kaynaklara dayanıp dayanmadığı meselesidir. Bu yazıda, bizzat yaşadığım bir örnek üzerinden, bu esas soruna ve bu sorundan kaynaklı sorumluluk durumlarına değineceğim.
A) Yapay Zekanın Sahte İçtihat Üretmesi (Halüsinasyon)
Şahsi kanaatim, ücretli hukuk yapay zeka yazılımlarının dahi spesifik bir konuda, kendi veri tabanından nokta atışı içtihat bulabilmenin çok uzağında olduğudur. Hukukçular için kullanıma sunulanlar değil, genel kullanıma sunulan ve internetin açık erişim kısmını tarayan yapay zeka araçları ise yetersizliğin ötesinde, hayali içtihatlar üretmektedir. Kamuoyuna yansıyan ‘bir avukatın yapay zekanın ürettiği sahte içtihadı kullandığı için hakkında soruşturma başlatılması’ haberi herkesin malumudur. Benim bir yapay zeka aracına, gösterdiği içtihadın kaynağını sormam üzerine aldığım cevap ise şu oldu:
Yapay zeka yazılımın özünde surface web’i tarayarak, zaten internette mevcut içerikleri kullanıcıya ulaştırması gerekmesine rağmen kendiliğinden içtihat yaratmaya girişmesi büyük bir problemdir. Bu durum aslında yeni de değildir ve ABD’de daha önceden gerçekleşen ve yargıya konu olan vakalar bulunmaktadır. Bunlardan bilinen bir tanesi, MATA v. Avianca Inc davasıdır.[1] Bu davada ChatGPT hayal ürünü içtihatlar üretmiş ve avukatlar bunları yargı süreçleri içerisinde kullanmış, mesleki denetim yükümlülüklerini ihlal ettikleri için de hakim tarafından idari para cezasına mahkum edilmişlerdir. Bu tuzağa düşen yalnızca avukatlar da olmamıştır. ABD’de savcılar da yapay zekanın ürettiği sahte hukuki bilgiler yüzünden çeşitli soruşturmalara maruz kalmıştır.[2]
B) Sahte İçtihattan, Yapay Zeka Yazılımını İşleten Şirket Sorumlu Tutulabilir Mi?
1) Cezai Sorumluluğa Dair Kanun Boşluğu
İçtihat uydurmanın nedeni, yapay zeka araçlarının algoritmasından kaynaklanmaktadır. Ülkemizde ise ‘yapay zeka gerçek bilgi talebine yönelik hayali bilgi üretemez’ gibi yasaklar ve bu yasakların müeyyidelerini içeren bir mevzuat yoktur. Aslına bakılırsa yapay zeka ile ilgili spesifik bir mevzuatımız yoktur. Dolayısıyla ülkemizde yapay zeka yazılımların çalışma şekilleri, test edilmeleri ve sair durumlara yönelik spesifik normatif çerçeveler çizilmemiştir. Haliyle bu olmayan normatif çerçevelerin ihlaline dair kabahat-suç noktasında cezai sorumluluğa da gidilememektedir.
2024 yılında Avrupa Konseyi Yapay Zeka Sözleşmesi[3] (Council of Europe Framework Convention on Artificial Intelligence and Human Rights, Democracy and the Rule of Law) imzaya açılmıştır.[4] İlgili sözleşmenin 8. maddesi ise devletlere yapay zeka teknolojilerine yönelik denetim ve gözetim yükümlülüğü getirmektedir. Yine 12, 13 ve 16. maddelerde, yapay zeka teknolojilerinin ve ortaya koyduğu çıktıların güvenilirliğini sağlamak için gerekli standartların ve testlerin getirilmesi şart koşulmaktadır. Ülkemizde bu yönde hazırlanmış 2024 tarihli bir kanun teklifi[5] ve Siber Güvenlik Kanunu’na bu yönde bir madde eklemeyi hedefleyen 2025 tarihli makul bir kanun teklifi[6] bulunmakla birlikte teklifler kanunlaşmamıştır.
Bu yönde ayrık bir mevzuat olmadığı için oluşabilecek suçlar, kanunilik ilkesi gereğince mevcut suçlardır. Fakat yapay zeka araçlarının algoritmasından sorumlu olanların, ihmali veya icrai hareketlerinde mevcut suçlara yönelik kastlarının ispatlanabilmesi çok zordur. Kaldı ki bu tür hizmetlerin kullanım şartlarında ‘sorumluluk reddine-tavsiye olmadığına-yanlış olabileceğine’ dair beyanların bulunması da bu noktada sorumluluğun önünde çoğu durumda engel vaziyettedir. Gerekli testlerin yapılmasının kasten ihmali durumundan kaynaklı oluşabilecek neticeler yönünden de ‘testlerin normatif belirsizliği’ sebebiyle, sorumluluğun belirlenmesinde büyük problemler doğması mümkündür.
2) Hukuki Sorumluluk
a) Emsal Davalar
Dünyada yapay zekanın ürettiği sahte içtihatlardan kaynaklı hukuki sorumluluk meselesi tartışmalıdır ve bu yöndeki davalar da günceldir. Örneğin OpenAI, sahte içtihatlar yüzünden dava edilmiştir.[7] Almanya’da yerel bir mahkeme, Google’ın yapay zekanın ürettiği sahte bilgilerden dolayı hukuken sorumlu olduğuna karar vermiştir.[8] Bu konudaki en ilginç örnek, ChatGPT’nin bir kullanıcısına sahte içtihatlardan oluşan bir hukuki tavsiye listesi vermesi ve avukatını kovarak, bu listeyi uygulamasını tavsiye etmesi üzere ABD’de açılan tazminat davasıdır. Kullanıcı bu yanlış bilgiler nedeniyle avukatına değil yapay zekaya güvenmiş ve sahte bilgi-içtihatlar yüzünden kaybettiği davada yüzbinlerce dolarlık zarara uğramıştır.[9]
Sanıyorum yakın zamanda Türkiye’de de yapay zekanın ürettiği sahte içtihatlar yüzünden kaybedilen davaları göreceğiz. Hatta bu sebeple avukatların ya da doğrudan yapay zeka şirketlerinin dava edildiğini de göreceğiz. Yukarıda bahsettiğim ChatGPT davasına yönelik Kahana, Stanford Hukuk’taki yazısında ‘‘Nippon Life davası, mahkemeleri ve düzenleyicileri yapay zekaya dayalı hukuki uygulamalar için güvenli bir liman tanımlamaya zorlayacak gibi görünüyor.’’ diyor.[10] Ben de Türkiye için bu tür regülasyonların yakın zamanda yürürlüğe gireceğine inanıyorum.
b) Türk Hukukuna Göre Sorumluluk
Yapay zeka araçları genel olarak çıktılarına dair sorumluluk reddinde bulunur. Hukuki sorumluluk noktasında ise TBK md. 115, ağır kusuru sorumluluk reddinin istisnası olarak getirmiştir. Dolayısıyla ağır kusurdan dahi sorumsuzluğu içeren bir sözleşme/genel işlem-hizmet şartı geçersiz olacaktır. Bu noktada Google’ın genel işlem şartlarında da ‘ağır kusurdan sorumluyuz’ gibi beyanlar mevcuttur.
Yapay zekanın uydurma bir içtihat üretmesine ve bunu kullanıcıya gerçekmiş gibi sunmasına izin veren algoritmayı kullanıma sunmanın ağır bir kusur teşkil edip etmediği ise şüphelidir. Zira yukarıda da ifade edildiği üzere bu alanda yapılması gerekenler normatif olarak belli değildir. Model ajan gibi ölçütlerle, gerçekleştirilen mevcut test ve denetimlerin piyasadaki genel şartlara uyumu değerlendirilebilir ise de sorun zaten çoğu yapay zeka aracının tüm testlere rağmen bu tür hayali sonuçlar üretiyor olmasıdır.
Netice olarak, sahte içtihat üretmenin önüne geçebilecek önlemleri almamış veya alamamış olmak ağır kusurdur denilebilirse, bu noktada yapay zekayı işleten gerçek/tüzel kişinin tazminat sorumluluğuna gidilmesi mümkündür. Ancak burada belirli standartların olmaması ve zaten testler-denetim için yapılan ciddi çalışmaların mevcudiyeti, tazminat sorumluluğu bakımından problem doğurabilir gibi görünmektedir.
C) Sahte İçtihadı Kullanan Avukatın Cezai Sorumluluğu
1) Resmi Belgede Sahtecilik Suçu
Avukatların TCK bağlamında her daim kamu görevlisi sayılmayacağı açıktır. Yargıtay Ceza Genel Kurulu’nun ünlü 2021/43 E. 2021/287 K. sayılı içtihadında da kanunilik ilkesi çerçevesinde benzer bir yorum yer almakta ve kamu gücü kıstası gibi unsurlar getirilerek, zimmet suçunda avukatın her daim fail sıfatını taşımayacağı belirtilmektedir. Ancak Yargıtay’ın, resmi belge sahtecilik suçunda avukatı kamu görevlisi ve düzenlediği belgeleri de görevi gereği düzenlemeye yetkili olduğu resmi belge saydığı, avukatı da resmi belgede sahtecilik suçundan mahkum ettiği kararları mevcuttur. (9. CD 2020/731 E. 2021/2802 K.)
Eğer 9. Ceza Dairesi’nin yorumu benimsenir ise yapay zekanın ürettiği sahte içtihadı dilekçesine koyan avukatın fail sıfatını taşıdığı, belgenin de fikri sahtecilik bağlamında suçun konusu kapsamına girdiği söylenebilecektir. Buradaki tartışılması gereken konu, avukatın ‘kararın sahte olduğunu bilmiyorum ve sahte bir karar kullanmak istemiyorum ama olursa da olsun, kontrol etmiyorum’ (olası kast) diye düşünmesi durumudur. Zira çoğunlukla gerçekleşebilecek olan budur. Fakat bu noktada da bu suçun olası kastla işlenip işlenemeyeceği tartışmaları devreye girecektir. Doğrudan kast şartı veya sahtecilik saiki aranacaksa, bu noktada yapay zekanın ürettiği sahte içtihadın doğruluğunu kontrol etmeyen avukatın bu suçtan dolayı sorumluluğu doğmayacaktır. Bu konuda çok sayıda farklı görüş olduğu için bu konu üzerinde daha fazla durmayacağım.
Kanaatimce TCK md. 6’daki kamu görevlisi tanımı, Anayasa md. 13 ve 38’e aykırıdır ve iptali gerekmektedir. Zira fazlasıyla sentezci metotta kaleme alınmıştır. TCK’da bu yönde bir kural olmasa da Fransız Ceza Kanunu’nun 111-4. maddesinde ‘la loi penale est d'interpretation stricte’ şeklinde bir cümle mevcuttur. Bu cümle ceza hukukunun en temel ilkesini dile getirmektedir. Bu ilke ceza hukukunun sıkı/dar yoruma tabi tutulacağı ilkesidir. Öyleyse kanaatimce kanunilik ilkesine aykırı bir norm olmakla birlikte, TCK md. 6’nın da sıkı biçimde yorumlanması şarttır. Sıkı bir yorum neticesinde de kanaatimce memur statüsünde olmayan ve idare hukukuna göre de kamu görevlisi olarak kabul edilmeyen bir avukatın, salt yargı görevi yapan statüsünde olduğu için kamu görevlisi olarak kabul edilmemesi gerekir.
İkinci olarak, kanaatimce avukat dilekçeleri ‘fikri sahtecilik bağlamında’ normun koruma amacı içerisine de girmemektedir. Avukat dilekçesinde bir kamu gücü kullanımı yoktur ve sahtecilik suçlarında korunan bir hukuki değer olarak ‘belgenin gerçekliğine güven-kamu güveni’ söz konusu değildir. Avukat yargılamada gerçeğin ağzı değildir. Dilekçesine yazdıkları üzerine peşinen hüküm verilmemekte, hüküm hakimin tarafları karşılıklı olarak test etmesi yani dilekçe içeriğindeki beyanların gerçekliğini kontrol etmesi sonucu verilmektedir. Dolayısıyla avukatın dilekçesinde, gerçekte olmayan bir içtihadı kullanarak fikri sahtecilik gerçekleştirmesi, kanaatimce bu suçu oluşturmayacaktır.
2) Görevi Kötüye Kullanma Suçu
Her ne kadar ilgili normun TCK md. 5 ile birlikte ilga edildiği yönünde içtihatlar var ise de[11] kanımca yürürlükte olan Avukatlık Kanunu’nun 62. maddesi ‘Bu Kanun ve diğer kanunlar gereğince avukat sıfatı ile veya Türkiye Barolar Birliğinin yahut baroların organlarında görevli olarak kendisine verilmiş bulunan görev ve yetkiyi kötüye kullanan avukat Türk Ceza Kanununun 257 nci maddesi hükümlerine göre cezalandırılır.’ demektedir. Yargıtay kararları ise avukatları doğrudan TCK md. 257’deki görevi kötüye kullanma suçunun faili saymaktadır.[https://www.hukukihaber.net/yargitay-5-ceza-dairesinin-2025918-e-202515138-k-sayili-karari12] Öyleyse avukatların görevi kötüye kullanma suçunun faili olabileceğini söylemek gerekir.
Kanaatimce görevi kötüye kullanma suçunun olası kastla işlenmesi mümkündür zira suç normunda doğrudan kastı gerekli kılacak özel bir vurgu yoktur.[13] Öyleyse sahte içtihadı kontrol etmeden ‘olursa olsun kabullenişiyle’ kullanan bir avukatın da bu suçtan sorumluluğu doğabilir.[14]
Suçun cezalandırılması için ise mağduriyet-zarar şartı mevcuttur. Dolayısıyla dilekçeden bir mağduriyet-zarar doğmaması durumunda avukat, cezalandırılmayacaktır. Sahte içtihada dayalı olarak aleyhe bir karar verildiğinde ise pekala zarar-mağduriyet oluşacaktır.
D) Hukuk ve Tıp Alanlarında Yapay Zeka Kullanımı Kanunen Sınırlandırılmalı veya Bu Alanlarda Düzenlemeye Gidilmelidir
Hukuk ve tıp gibi yanlış bilginin sonuçlarının ağır olabileceği alanlarda, genel kullanım amaçlı yazılımların kullanılmasının yasaklaması ve sorumlulukları tam olan, yalnızca bu alanlarda hizmet veren ve kendi özel mevzuatları bulunan yapay zeka yazılımların meşru kılınması gerekmektedir. Bu gerekliliğin pek çok sebebi vardır. Nasıl ki yetkisiz hekimlik ve yetkisiz avukatlık birer suçsa ve bu suçla korunan hukuki değerlerden biri de vatandaşların haklarının doğru kişilerden hizmet alarak korunmasıysa, yapay zeka hizmetleri için de benzer düzenlemelere gidilmesi gerekmektedir.
Normal insanlar ve hatta yukarıdaki örneklerden anlaşılacağı üzere hukuk profesyonelleri bile yapay zekanın yanlış bilgi üretmesi sebebiyle hataya düşebilmektedir. Yapay zeka insanları profesyonellere gerek kalmadan doğru bilgiye erişebilecekleri noktasında teşvik etmekte, profesyonelleri ise emek sarf etmeden sonuca ulaşabilecekleri hayaliyle doldurmaktadır. Ancak bu tür yazılımların gerekli öz denetimi sağlayacak özellikten yoksun kişilerce kullanımı, bunların hem kendilerine hem de çevrelerine yönelik ağır zararlar vermelerine sebep olabilmektedir. Zira tıp insan sağlığı, hukuk ise insanın maddi-manevi her halini etkileyen bir alandır.
Netice olarak, yapay zeka geliştiricileri ve işleticilerinin, ürünlerini gerek üretim gerekse piyasa ve son kullanıcıya sunarken hangi çerçeve kurallara uymaları veya hangi testleri yapmaları gerektiği konusu düzenlenmeye muhtaç bir alandır. Bu noktada genel hükümlerden kaynaklı bir ‘işin gerektirdiği özeni gösterme’ durumu söz konusu olmakla birlikte, buna rağmen bugün için yapay zekanın kolayca sahte içtihat üretebildiği unutulmamalıdır. Dolayısıyla bu konudaki mevcut yapının yetersizliği ortadadır. Bu konuda yürürlüğe konulacak spesifik normlar ve bu normların ihlaline yönelik yaptırımlar gerekmektedir.
Cezalar ve kabahat yaptırımları noktasında kusur ilkesi ve kanunilik ilkesi gereğince, önce gerekli test-denetimlerin sınırları çizilmeli ve bilahare kasıtlı ihmallere yaptırım bağlanmalıdır. Hukuki sorumluluk noktasında da yine bu belirli sınırlar üzerinden ağır-hafif ihmal durumları tartışılabileceği için sınırların normatif olarak çizilmesi şarttır.
-------------
[1] https://caselaw.findlaw.com/court/us-dis-crt-sd-new-yor/2335142.html
[2] https://calmatters.org/economy/technology/2026/08/ai-prosecutor-errors/
[3] https://rm.coe.int/1680afae3c
[4] Ülkemizde yürürlükte değildir.
[5] https://cdn.tbmm.gov.tr/KKBSPublicFile/D28/Y2/T2/WebOnergeMetni/e50ccc8a-ab90-45fa-a553-76b880c78fb8.pdf
[6] https://cdn.tbmm.gov.tr/KKBSPublicFile/D28/Y4/T2/WebOnergeMetni/5b8d2dc6-9dee-41e8-98c6-ee5b28ca9608.pdf
[7] https://news.bloomberglaw.com/tech-and-telecom-law/openai-hit-with-first-defamation-suit-over-chatgpt-hallucination
[8] https://www.wired.com/story/a-court-has-ruled-that-google-is-liable-for-false-statements-generated-by-ai-overviews/
[9] https://www.legal.io/blog/5798485/OpenAI-Sued-for-Unauthorized-Practice-of-Law-via-ChatGPT
[10] https://law.stanford.edu/2026/03/07/designed-to-cross-why-nippon-life-v-openai-is-a-product-liability-case/
[11] 5. CD, E.2020/6051 E. 2021/2481 K. İçinde: Osman Gazi Ünal, Yargıtay Ceza Genel Kurulu’nun, E.2021/43, K.2021/287 Sayılı ve 17.06.2021 Tarihli Kararının Değerlendirilmesi: Avukatın Kamu Görevlisi Olarak Görülmesi Meselesi Üzerine Bir İnceleme, Karar İncelemeleri Dergisi, Cilt 1, Sayı 1-2, s. 77
[12] 5. CD 2025/918 E. 2025/15138 K.
[13] Ayrıca bkz. Pınar Memiş Kartal, Görevi Kötüye Kullanma Suçu, Marmara Üniversitesi Hukuk Fakültesi Hukuk Araştırmaları Dergisi, Cilt 19, Sayı 2, s. 1389
[14] Aslında AVK md. 62’nin bir görünüşte açık ceza normu olduğu ve yalnızca yaptırım bakımından TCK md. 257’ye yollama yaptığı, suçun objektif unsuru bakımından özel hüküm teşkil ettiğini söylemek gerekir. Böyle olunca da ‘ihmali hareket açıkça tanımlanmadığında’ cezalandırılamayacağı için (kanunilik) avukatın ihmal suretiyle görevi kötüye kullanma suçuna dair hukuken boşluk bulunduğunu yani böyle bir suçun işlenemeyeceğini söylemek gerekir. Ancak gerek doktrin gerekse uygulamada bu yorum kabul edilmemektedir.
