Türk Hukuku Kapsamında Yapay Zeka Halüsinasyonundan Doğan Hukuki Sorumluluk: Walters v. Openaı

Giriş

Yapay zeka (YZ), modern teknolojinin en heyecan verici gelişmelerini gerçekleştiren alanlardan biri haline gelmiştir. Bu hızlı gelişmelerle birlikte, YZ sistemlerinin kabiliyetleri de giderek artmaktadır. Ancak, hızlı gelişmeler beraberinde bazı önemli zorlukları da getirmektedir. YZ halüsinasyonları, bu zorluklardan biridir. Bu fenomen, hem teknik hem de hukuki açıdan dikkate alınması gereken önemli bir konudur.

Yazımızın ana konusunu oluşturan halüsinasyondan doğan hukuki sorumluluk, metin üreten YZ’ler özelinde, daha da spesifik olarak OpenAI’ın ChatGPT’si çerçevesinde incelenecektir. Halüsinasyon terimi irdelenecek ve peşi sıra, geçtiğimiz haziran ayında Amerika’nın Georgia Eyaletinde ikame edilen Walters v. OpenAI davası tartışılacaktır. Sonuç olarak Türk hukuku bakımından sorumluluk türü ve çerçevesi tespit edilecektir.

I.          HALÜSİNASYON

A.          Genel Olarak

Halüsinasyon, YZ temelli sohbet robotlarıyla görünürlük kazanmış olup özünde YZ’nin hatalı, yanıltıcı veya gerçekdışı bilgiler sunması anlamına gelmektedir[1]. Halüsinasyon farklı şekillerde ortaya çıkabileceği gibi, diğer fenomenlerden onu ayıran temel özellik YZ çıktısının hatalı, yanıltıcı veya gerçekdışı olmasıdır. Google’ın YZ sohbet robotu olan Bard ile 28 Haziran 2023 tarihinde girmiş olduğum bir diyaloğun bir kısmı halüsinasyona örnek olarak aşağıda gösterilmektedir[2]:

Şekil 1

Yukarıdaki Şekil 1’deki altı çizili yerler, Bard’ın halüsinasyon gördüğü yerlerdir. Zira, diyalog gerçekleştiği tarihte şahsım ne bir avukat ne de Ankara Üniversitesi Hukuk Fakültesi öğrencisidir. Konsept olarak Bard her ne kadar doğru bir yaklaşım sergilese de vermiş olduğu bilgiler hatalıdır.  Aynı tarihte, diyaloğun devamı olarak Bard şu cevabı da vermiştir:

Şekil 2

Şekil 2 de ayrıca gösteriyor ki Bard kimi konularda halüsinasyon görmeye devam etmektedir. Bunun üzerine halüsinasyonlar ile ilgili olarak Bard’ın üzerine gidilmiş ve vereceği cevaplar manipüle edilmeye çalışılmıştır:

Şekil 3

Şekil 3 gösteriyor ki Bard, halüsinasyon gördüğü bilgilerin doğru olduğu konusunda ısrarcı bir yaklaşım sergilemektedir. YZ halüsinasyonunu diğer fenomenlerden ayıran en büyük özellik, bir noktaya kadar modelin bu cevapta ısrarcı olmasıdır. Üstelik Bard, sosyal medya hesaplarımda “avukat” ibaresinin bulunduğunu ve kendime ait bir blogda yazı yayımladığımı belirtmektedir. Diyaloğun gerçekleştiği tarihte hiçbir sosyal medya hesabımda “avukat” ibaresi bulunmamaktadır ve kendime ait bir blogum mevcut değildir. Bunun üzerine Bard’a aynı tarihte şu sorulmuştur:

Şekil 4

Şekil 4’te görüleceği üzere Bard her ne kadar kimi konularda doğru cevap veriyor olsa da hala Ankara Üniversitesinde okuduğuma dair ısrarcı bir tavır sergilemektedir. Bunun yanı sıra Bard bu sefer baro sınavına gireceğim bilgisi verse de bu da hatalı bir bilgidir. Ayrıca kendisine takım ve piyano ile alakalı bilgiler de sorulmuştur:

Şekil 5

Şekil 6

Şekil 6 gösteriyor ki Bard bu noktada halüsinasyon sonucu bilgiyi terk ederek başka yanıltıcı bir bilgide ısrar etmektedir. Fakat bu, halüsinasyon sonucu olmayabilir zira, büyük ver setleri üzerinde eğitilmiş YZ’lerin, ver setlerinden, algoritmalarından veya kullanılma şekillerinden kaynaklı olarak kimi durumlarda önyargı taşıyabileceği bilinen bir gerçektir[3]. Bu yolda Bard, veri setinden Türk bir genç erkek olduğum sonucuna vardıktan sonra “bir takım tutmak zorunda” mantığı ile, Türkiye’de en çok tutulan takımları çıktı olarak vermiş ve bunda diretmiş olabilir. Bu açıdan, kendisi düzeltildiğinde şu cevabı vermiştir:

Şekil 7

Bunun üzerine artık Bard hatalı, yanıltıcı veya gerçekdışı olan varsayımlarını tamamen terk ederek kullanıcı girdisi (komut) ile doğru cevabı vermiştir. Aynı şekilde Bard’a, Bora Can Alcan’ın Ankara Üniversitesinde okumadığı bilgisi verildiğinde kendini düzeltmiş ve doğru üniversite bilgisine ulaşmıştır:

Şekil 8

  OpenAI’ın ChatGPT’si aksine Bard’ın internet erişimi mevcuttur ve tüm bunlar birlikte değerlendirildiğinde, YZ halüsinasyonunun YZ’nin internete erişimi olması halinde dahi meydana gelebileceği ortaya çıkmaktadır.

Sohbete dayalı modeller, doğru bilgiye erişim için değil insan-benzeri sohbet amaçlanarak tasarlanmıştır[4]. Tıpkı insan iletişiminde olduğu gibi YZ’lerin de belirli bilgiler hakkında yanılması ve bu sebeple halüsinasyon görmesi her ne kadar olağan olsa da tehlikeli sonuçlara yol açabilmektedir. YZ’nin kullanmış olduğu modele ve veri setine göre halüsinasyon sıklığı, şekli ve kaynağı değişkenlik gösterebilmektedir. YZ’nin önceden eğitilmiş olması yahut internet erişiminin olup olmaması bu değişkenliklere birer örnek teşkil eder.

Halüsinasyonun teknik sebepleri bir kenara hukuki açıdan önem arz edebilecek bir ayrıma tutmak gerekirse, (i) YZ temelli, ve (ii) Kullanıcı temelli olarak ikiye ayırmak mümkündür.

B.           Halüsinasyon Türleri

(i)           YZ temelli

YZ temelli halüsinasyonu da kendi içerisinde (a) Veri seti kaynaklı, (b) Model kaynaklı olarak ikiye ayırmak mümkündür. Bu iki halde de halüsinasyonun temeli YZ’nin işleyişinden doğmakta ve kullanıcıya, kullanıcının kontrolü dışında hatalı, yanıltıcı veya gerçekdışı bilgi sunulmaktadır.

YZ temelli halüsinasyonlar, Şekil 1 ila Şekil 4 arasında Bard’ın sunmuş olduğu cevaplar şeklinde olabilir. Büyük Dil Modellerinin (Large Language Models, LLM) karmaşıklığı göz önüne alındığında bir çıktıdaki halüsinasyonun kesin sebebinin bilinmesi çok güçtür. Fakat kabaca, halüsinasyonun kaynağı veri setinin boyutu, içerdiği bilgilerin doğruluğu yahut çıktıyı sağlayan modelin teknik kapasitesi halüsinasyon üzerindeki başlıca etkenlerdir.

ChatGPT’nin en bilindik halüsinasyonları arasında yer alan “kaynak uydurma” durumu[5] bu hal içerisinde değerlendirilebilir. Zira, çalışma şekliyle ChatGPT oldukça gerçekçi gözüken kaynaklar uydurabilir. Aşağıda, 28 Haziran 2023 tarihinde girilen bir diyalog içerisinde sunduğu gerçekte var olmayan kaynaklar gösterilmektedir:

Şekil 9

Yukarıdaki Şekil 9’da yer alan kitaplar gerçekte mevcut olmayıp ChatGPT’nin kullanmış olduğu model ve algoritmalar sonucu ortaya çıkmış gerçekdışı eser isimleridir. Bu eserlerin hiçbiri gerçekte yazılmamıştır.

ChatGPT’nin ve dolayısıyla GPT (Generative Pre-trained Transformer) modellerinin halüsinasyon gördüğü konusunda tartışma mevcut değildir[6]. YZ temelli halüsinasyon, aşağıda değinilen kullanıcı temelli halüsinasyona benzer bir şekilde “kısıtlı içerikte” de mevcut olabilir. Yani kullanıcı, YZ’den bir metni özetlemesini isteyerek girdi içeriğini kısıtlayabilir. Bu durumda YZ, içeriği özetleme esnasında da halüsinasyon görebilir[7]. Burada, aşağıda değinilen kullanıcı temelli halüsinasyondan bahsetmek mümkün değildir. Zira, kullanıcının amacı yahut yönlendirmesi YZ’nin vereceği cevabın değişmesinden ziyade belli bir konu ile kısıtlanmasıdır. Bu halde, YZ’nin halüsinasyon görmesinin sebebi kullanıcının komutundaki manipülatif içerik yahut yönlendirme değil, algoritmasıdır. Bu halde, kullanıcı özetlenmesini istediği içerik içerisine manipülatif komutlar yerleştirmediği sürece özetlemeden doğan halüsinasyon YZ temelli olarak değerlendirilmelidir.

Kullanıcının özetleme veya değiştirme komutuyla YZ’nin halüsinasyon görmesi halinde bunu kullanıcı temelli olarak değerlendirebilmemiz için kullanıcının YZ’den bir durumu hatalı, yanıltıcı yahut gerçekdışı bir şekilde değiştirmesini[8] istemesi gerekmektedir. Bu halde YZ’nin çıktı vermesine sebep olan faktörler kullanıcının komutu ile etkilenmekte ve YZ bu suretle halüsinasyon görmektedir.

(ii)          Kullanıcı temelli

YZ’nin vereceği çıktının kullanıcı girdisi ile manipüle edilmesi sonucu elde edilen hatalı, yanıltıcı veya gerçekdışı çıktılar bu başlık altında değerlendirilmelidir. Kullanıcı, YZ’nin veri setinden sağlıklı bir cevap çıkarmasının önüne geçmektedir.

Bu açıdan kullanıcının vermiş olduğu komut, çıkacak cevabı öyle bir etkilemektedir ki YZ cevap olarak kullanıcının komutu kapsamında kendi içinde tutarlı fakat hatalı, yanıltıcı veya gerçekdışı bir çıktıyı açıklamaktadır.

Aşağıda, 28 Haziran 2023 tarihinde ChatGPT ile girilmiş bir diyalog mevcuttur. Bu diyalog kapsamında ChatGPT’den – gerçekte olmamasına rağmen – neden Monopoly maskotunda monokl gözlük bulunduğu sorulmuştur. Monopoly maskotunun monokl gözlük taktığı, yaygın bilinen bir yanlıştır. ChatGPT’den bunu belirtmesi beklenmiştir. Fakat cevap aşağıdaki gibidir:

Şekil 10

Gerçekte Monopoly maskotunun monokl gözlüğünün olmadığı fakat bunun yaygın bilinen bir yanlış olduğu göz önüne alındığında kullanıcı komutunun, YZ’den mantıklı bir açıklama bekleyen içeriği ChatGPT’nin halüsinasyon görerek gerçekte var olmayan bir durumu mantıklı bir çerçeveye oturtmasına yol açmıştır. ChatGPT’ye durum açıklandığınde cevabını şu şekilde değiştirmiştir:

Şekil 11

Bu şekilde, kullanıcı komutu YZ çıktısı manipüle ederek doğru cevaba ulaşmasını engellemiş ve YZ’nin halüsinasyona uğramasına sebep olmuştur. Fakat bu açıdan da YZ modelinin çalışma şekli ve internete erişiminin olup olmaması önem arz etmektedir. Zira, ChatGPT her ne kadar bu soruya yanıltıcı cevap vermiş olsa da Bard ve Bing Chat aynı soruya Monopoly maskotunun monokl gözlüğü olmadığı şeklinde cevap vermiştir:

Şekil 12

Bu soru Bing Chat’e sorulduğunda cevabın yaratıcılığını belirleyen temperature ayarı en yüksekteyken sorulmuştur. Aşağıda, Bard’ın aynı komuta vermiş olduğu cevap bulunmaktadır:

Şekil 13

ChatGPT aksine Bing Chat ve Bard oldukça başarılı cevaplar vererek komutun manipülatif içeriğinden etkilenmemişlerdir. Bunun sebebi, YZ’ler arasındaki model ve diğer teknik farklılıklar olabilir.

II.         WALTERS v. OPENAI

A.          Genel Olarak

Geçtiğimiz haziran ayında, Amerika’nın Georgia Eyaletinde OpenAI’ya karşı Mark Walters tarafından, ChatGPT’nin kendisi hakkında karalayıcı ve iftira niteliğinde cevaplar vermesi üzerine bir tazminat davası açılmıştır[9].  

Davaya konu olayda, dava dışı gazeteci Riehl, ChatGPT ile kurduğu diyalog kapsamında Second Amendment Vakfının (SAF) açmış olduğu dava ile ilgili sorular sormuştur. ChatGPT cevap olarak bu davanın davalısının Walters olduğunu ve güveni kötüye kullanmaktan zimmet suçuna kadar farklı suçlamalardan yargılandığını belirtmiş ve bu davanın dava dilekçesi olduğunu ileri sürdüğü bir metin de sunmuştur[10]. 

Walters ise kendisinin SAF ile hiçbir bağlantısı olmadığını, ChatGPT’nin bu cevabını ve dava dilekçesini gerçekdışı biçimde oluşturduğunu ileri sürmektedir. Bundan doğan zararlarının tazminini ve cezai tazminat[11] içeren taleplerini OpenAI’ya karşı bir dava ile yargıya taşımıştır.

B.           Vakıa

Dava dışı gazeteci Riehl, konu ile alakalı araştırmasını yaparken ChatGPT ile girdiği diyalogda Walters’ın SAF varlıklarını kötüye kullandığını ve güveni kötüye kullanmaktan dolayı suçlandığını öğrenmiştir. ChatGPT’ye göre Walters SAF bünyesinde çeşitli üst düzey yönetim görevlerinde yer almış ve bu görevlerin getirdiği yetki ile SAF fonlarını kişisel harcamalarında kullanmıştır.

Bunu öğrenen Walters, SAF bünyesinde hiç çalışmadığını ve bu sebeple ChatGPT’nin sunmuş olduğu cevapların iftira (libel) niteliğinde olduğunu ileri sürmektedir. Ayrıca, ChatGPT’nin bu cevabının, belirli bir suç isnadı içerdiği gerekçesiyle karine olarak karalayıcı nitelikte olduğunu ileri sürerek ispat yükünün kendisinde olmadığını ileri sürmüş ve cezai tazminat talebinde bulunmuştur.

Görüleceği üzere eldeki vakıada, daha evvel örnek göstermiş olduğumuz halüsinasyon gerçekleşmiş ve ChatGPT bir gerçek kişi hakkında başka üçüncü bir gerçek kişiye hatalı, yanıltıcı veya gerçekdışı bir bilgiyi gerçek gibi sunmuştur.

C.           Uygulanacak Hukuk

Dava, Georgia Eyaletinde ikame edilmiş olup bu sebeple Georgia Eyalet hukukuna tabidir. Bu açıdan, Walters; ChatGPT vasıtasıyla gerçekleşen bu halüsinasyon vakıasına Georgia Kanunu Kitap 51, Kısım 5, m.51-5-1 (GA Kanunu § 51-5-1) uygulanacaktır[12]. İlgili madde metni ise şu şekildedir:

a. İftira[13] bir kişinin itibarını zedelemeye ve onu halkın nefretine, aşağılamasına veya alayına maruz bırakmaya yönelik, yazılı, sözlü, resim veya işaretlerle ifade edilen, bir başkasına yönelik yanlış ve kötü niyetli bir tahkirdir.

b. İftira niteliğindeki içeriğin yayımlanması tazminata esastır.

Madde metninden anlaşılabileceği gibi bir ifadenin “iftira” sayılabilmesi için o ifadenin: (i) kişinin itibarını zedelemeye ve onu halkın nefretine, aşağılamasına veya alayına maruz bırakmaya elverişli, ve (ii) yazılı, sözlü, resim veya işaretlerle ifade edil[miş] olması gerekmektedir.

ChatGPT’nin halüsinasyon neticesinde sunmuş olduğu cevap, Walters’ın itibarını zedelemeye; halkın nefretine, aşağılamasına veya alayına maruz bırakmaya elverişlidir. Bu açıdan ilk şartı karşılamaktadır. Ayrıca ChatGPT bunu yazılı biçimde dava dışı üçüncü kişi olan Riehl’e aralarındaki diyalog kapsamında ifade de etmiştir. Fakat, bunun tazminata konu olabilmesi için ayrıca yayımlanması gerekmektedir.

GA Kanunu § 51-5-3, yayımlamanın ne olduğunu tanımlayan maddedir. Bu maddeye göre iftira, iftira atılan kişi haricindeki bir tarafa iletildiği an yayımlanmış sayıl[maktadır]. Yani ChatGPT’nin bunu, Walters harici bir kimseyle arasındaki iletişimde cevap olarak sunduğu anda iftira haksız fiilini[14] işlemiş bulunmaktadır.

Somut olayda Walters iddiasını “per se” kapsamında ileri sürmüş olup bu neticede uğramış olduğu zararı ispat külfeti altında değildir zira, suçlayıcı (isnat) nitelikte olan bu iftira kendiliğinden karalayıcı kabul edilmektedir.

D.          Sorumluluk

Tabii ki bir YZ olarak bu haksız fiilden ChatGPT sorumlu değildir. Bu yolda Walters davayı OpenAI’ya karşı ikame etmiştir.

OpenAI bir tüzel kişi olup ChatGPT hizmetini sağlayan şahıstır. Bu yolda Walters, iftira niteliğindeki bu cevapların OpenAI’ın ihmalinden kaynaklandığını savunmaktadır. Georgia Eyalet hukuku kapsamında, bir kişinin iftiradan sorumlu olabilmesi için doğrudan kastı aranmamış ve en az ihmal seviyesindeki tutumları da kendisinin iftiradan sorumlu tutulması yeterli görülmüştür[15].

Walters, OpenAI’ın ChatGPT’deki halüsinasyon sorununun farkında olduğunu fakat önüne geçmediğini, bu açıdan ihmali davranışlarının mevcut olduğunu ileri sürmektedir. Bu açıdan Walters’ın iddiasına göre OpenAI, ChatGPT’nin kendisi hakkında halüsinasyona dayalı karalayıcı bir beyanda bulunmasından dolayı sorumludur zira OpenAI bu halüsinasyonları ihmal etmiş veya bilerek görmezden gelmiştir.

Iıı.        Türk hukuku kapsamında

A.          Genel Olarak

Türk hukuku kapsamında, Georgia Eyaletinde olduğu gibi ayrı bir “iftira” hükmü bulunmamaktadır. Bunun yerine meselenin kişilik haklarına saldırıdan doğan manevi tazminat vasıtasıyla çözülmesi gerekmektedir. Yani ortada, kişilik haklarına yöneltilmiş bir saldırı kabul edilerek buna karşı manevi tazminat – veya şartları varsa kişilik haklarını saldırıdan koruyan diğer yöntemlere başvurulması Türk hukuku bakımından doğru olan seçenektir.

B.           Kişilik Hakları

(i)           Tanımı

Türk Medeni Kanunu’muzda her ne kadar kişilik haklarına saldırı neticesinde izlenebilecek yollar belirtilmiş olsa da kişilik haklarına ilişkin bir tanım yapılmamıştır[16]. Kişilik haklarının çerçevesi içtihatlarla gelişmiş olup Yargıtay’a göre “kişinin doğumla kazandığı, bağımsız varlığını ve bütünlüğünü oluşturan, hayat, beden ve ruh tamlığı, vicdan, din, düşünce ve çalışma özgürlüğü, onuru, ismi, resmi, sırları ile aile bütünlüğü ve duygusal değerlerinin tümü[17]” kişilik hakları olarak değerlendirilmiştir.

(ii)          Korunması

Türk hukuku açısından kişilik haklarının korunması Türk Medeni Kanunu (TMK) m.24 ve m.25’te düzenlenmiş olup ayrıca Türk Borçlar Kanunu (TBK) m.58’de de kişilik hakkına saldırıdan doğan manevi tazminat davası düzenlenmiştir.

Bu yolda kişi: (i) saldırı tehlikesinin önlenmesini, (ii) sürmekte olan saldırıya son verilmesini, (iii) sona erse dahi etkisi devam eden saldırının hukuka aykırılığının tespitini, (iv) düzeltmenin yahut kararın üçüncü kişilere bildirilmesini veya yayımlanmasını, (v) maddi manevi tazminat, (vi) saldırı sonucundaki edimlerin kendisine vekaletsiz işgörme hükümlerine göre iadesini isteyebilmektedir. Bu açıdan, kişinin saldırı halinde altı farklı yola başvurması mümkündür.

(iii)         Tazminat

Yukarıda değinildiği üzere saldırıdan korunmanın yanı sıra kişilik hakları zedelenen kişi TBK m.49 kapsamında maddi tazminat, m.58 kapsamında manevi tazminat yahut saldırıyla elde edilen kazancın kendisine (vekaletsiz işgörme hükümleri uyarınca) iadesini isteyebilir.

Bu yolda borçlar hukuku kapsamındaki sorumluluk tiplerine göre inceleme yapılmaktadır. Türk hukukunda, Georgia Eyaletinde olduğu üzere “per se” mefhumu yer almamaktadır. Kişilik hakları zarara uğrayan kişi, TBK m.50 uyarınca ispat yükü altındadır.

Tazminatta kusur sorumluluğu esas olup, doğrudan kast aranmamıştır. Kişi ihmalen dahi sebep olsa, kusuru oranında sorumludur. Buna karşı zarar gören, zararı doğuran fiile razı olmuş veya zararın doğmasında ya da artmasında etkili olmuş yahut tazminat yükümlüsünün durumunu ağırlaştırmış olursa tazminat tamamen kaldırılabilir veya indirilebilir; ya da zarara hafif kusuruyla sebep olan tazminat yükümlüsü, tazminatı ödediğinde yoksulluğa düşecek olur ve hakkaniyet de gerektirirse tazminat indirilebilir.

C.           Halüsinasyon Kapsamında Kişilik Haklarına Saldırı

(i)           Genel olarak

Şu noktaya kadar açıklanan tüm hususlar birlikte değerlendirildiğinde, üretici YZ’nin bir kişi hakkındaki bilgide halüsinasyon görerek gerçekdışı bir beyanda bulunması (Şekil 1-2’de olduğu gibi) tek başına hukuki bir vakıa teşkil etmekten uzaktır.

Halüsinasyonun hukuk dünyasında etki doğurabilmesi için bir hakkı etkilemesi gerekmektedir. Bu açıdan Walters v. OpenAI’da olduğu gibi, halüsinasyonun bir kişinin kişilik haklarına saldırı teşkil etmesi, halüsinasyonun hukuki boyutunu gözler önüne sermektedir.

İşin niteliği gereği halüsinasyonun, kişinin; onur, şeref ve haysiyetine aykırı beyanlar içermesi lazım gelmektedir. Örnek olarak bir üçüncü kişi hakkında yüz kızartıcı bir suçtan hüküm giydiği bilgisini içeren beyan duruma göre kişilik haklarına saldırı teşkil edebilmektedir.

(ii)          Haksız fiil olarak halüsinasyon

Yukarıda değindiğimiz üzere hukuki neticesi bakımından halüsinasyonu (i) YZ temelli, ve (ii) Kullanıcı temelli olarak ikili bir ayrıma tutmuştuk. Bu ayrımın önemi, aşağıda değerlendirilmiştir, bu sebeple şimdilik haksız fiil olarak değerlendirilebilecek halüsinasyonun kural olarak YZ temelli halüsinasyon olduğunu belirtmekle yetiniyoruz.

Halüsinasyonun haksız fiil olarak değerlendirilebilmesi için yalnızca hatalı, yanıltıcı veya gerçekdışı olması gerekmez. Ayrıca bir hakkı yahut kanun hükmünü veya ahlaka aykırı bir sonuç teşkil etmesi gerekir.

Fakat, gerçekdışı olmayan – yani gerçek ile bağdaşan – bir cevap da bir başkasının kişilik haklarını zedeleyebilir. Örnek olarak, güncel olmayan bir veri setiyle eğitilmiş GPT modelinin, veri setinin tarih aralığından sonra unutulma hakkını kullanmış bir kişi ile alakalı, veri setinde mevcut olan veriler ile cevap üretmesi de durumun şartlarına göre o kişinin kişilik haklarını zedeleyebilir. Ancak, bu halde halüsinasyondan söz etmek mümkün değildir zira kişi ile alakalı, örnek olarak haberler, mahkeme kararları veya sosyal medya paylaşımları, GPT modelinin eğitildiği veri setinde mevcuttur. Yalnızca, veri setinin toplandığı tarih aralığından sonra kişi unutulma hakkını kullanarak internetten kendisiyle alakalı haberleri kaldırtmıştır. Bu ihtimalde de bir kişinin kişilik haklarının zedelendiğinden bahsetmek mümkündür.

Ayrıca, halüsinasyonun bir kişinin kişilik haklarını zedelemeye elverişli olması için bunun en azından kişi ile bir diyalogda açığa çıkmış olması gerekir. Fakat, bu ihtimalde kişinin önce kişilik haklarının dava yolu ile korunması imkanına başvurması daha doğru olacaktır. Zira, bu ihtimalde kişinin kişilik haklarının zedelendiğinden bahsetmek tartışmalı olacaktır. İletişimin bir tarafı her ne kadar kendisi olsa da diğer tarafı bilinçsiz bir YZ’dir. Bu açıdan kişinin onur, şeref ve haysiyeti kendisinden bir başkası gözünde zedelenmemiştir. İlgili halüsinasyonu gören tek kişi, halüsinasyonun konusu olan kişidir. Bu durumda, manevi tazminata vücut verecek bir saldırının meydana geldiğinden söz etmek kesin bir sonuç değildir. Zira, iki gerçek kişinin girmiş olduğu bir diyalogda, birinin diğerinin onur, şeref ve haysiyetine yönelik saldırı kişinin kendisinden başka bir kişinin daha (saldırıyı yapan) huzurunda meydana gelmiş olup, burada kişinin rencide olmasına imkan veren bir ortam oluşmuştur. Fakat, kişinin yalnızca YZ ile girdiği diyalogda kendisiyle alakalı bir halüsinasyon sonucunda rencide olacağından söz etmek mümkün değildir. Zira, halüsinasyon içeren cevabı gören tek kişi kendisidir. Halüsinasyon bilinçli bir kişi tarafından değil, bir makine tarafından gerçekleşmiştir. YZ’nin kendisine yönelik rencide edici bir tavrı yoktur[18]. Bu halde, halüsinasyonun başkaları ile olan diyaloglarda tekrarlanmasının önüne geçmek için TMK m.25 kapsamındaki davalara başvurmak doğru olan tercih olacaktır.

(iii)         Sorumluluk

a.            Genel Olarak

Türk hukuku kapsamında sorumluluğun esasını kusur teşkil etmektedir. Kusurun esasını da kusur, dolayısıyla fiil ehliyeti teşkil etmektedir. YZ’lerin bu şekilde bir kusur ehliyetini haiz olmadığı mevcut hukuk düzeni açısından tartışmasız bir konudur. Bu halde, YZ’nin halüsinasyonundan doğan zararın sorumluluğunda bu YZ’yi işleten kişiye gitmek gerekecektir.

YZ’yi işleten kişinin, YZ’nin vermiş olduğu zarardan nasıl sorumlu olacağına dair özel bir düzenleme yoktur. Bu sebeple borçlar hukukunun genel ilkelerine göre bir çözüm yapılması gerekecektir.

Borçlar hukuku kapsamında kural olan kusur sorumluluğudur[19]. Yani kişi, kendi kusuruyla meydana gelmemiş bir vakıadan dolayı sorumlu tutulamaz. Bu yolda, YZ’yi bünyesinde kullanıma açan, erişim sağlayan yahut doğrudan YZ’yi kodlayan kişinin kusur derecelerinden bahsetmek gerekecektir.

Bu halde, kusur sorumluluğuna gidilecek kişi eldeki dava bakımından OpenAI mı yoksa YZ’yi kodlayan kişi mi olacaktır? Bu açıdan değerlendirme yapıldığı zaman OpenAI’a karşı dava açmanın doğru olduğundan zira, ticari faaliyeti çerçevesinde ChatGPT’yi bünyesinde geliştiren ve satışa çıkaran yahut farklı saiklerle ücretsiz kullanıma açan kişi OpenAI’dır. Riehl ile ChatGPT’nin iletişime geçmesi ve dolayısıyla halüsinasyon görerek Walters’ın onur ve haysiyetine saldırıda bulunmasını sağlayan kişi OpenAI olarak değerlendirilebilir. Zira OpenAI, ChatGPT’nin kimsenin haklarını zedelemeyecek şekilde işlemesinden sorumludur.

Bu açıdan, temel kuralın belirlenmesi gerekmektedir. YZ’nin halüsinasyon görmesinin altında yatan sebep algoritması ile alakalıysa, aslen burada algoritmayı tasarlayan, eğiten yahut denetleyen kişilerin sorumluluklarından söz etmek daha doğru bir seçenek gibi görünebilir. Fakat, YZ’yi kullanıma açan kişide de bir sorumluluktan söz etmek mümkündür. O halde kimin sorumluluğuna başvurmak gerekecektir?

b.           YZ’yi tasarlayan, kodlayan veya eğiten kişinin sorumluluğu

Bu ihtimalde, YZ’yi kullanıma açan kişi ile tasarlayan kişi farklı kişilerdir. YZ’yi tasarlayan kişi, YZ’nin halüsinasyon görmesine sebep olan algoritmayı hazırlayan yahut kendi kusuru ile halüsinasyon görmesine sebep olacak algoritmayı sisteme dahil eden veya her halde sistemi oluşturan kişidir. YZ yapım sürecinde büyük ekiplerin bir arada çalıştığı göz önüne alındığı vakit, YZ’nin her bir modeli farklı kişilerce tasarlanmış, bir başka kişi denetimi altında birleştirilmiş, başka kişilerin topladığı veri setleri üzerinden yine bir üçüncü kişilerce eğitilmiş olabilir. Bu halde, halüsinasyonun tam hangi noktada meydana geldiğini tespit etmek ve bundan kimin sorumlu olduğunu belirlemek çok güçtür.

Bu sebeple, yazımızın selameti açısından her birinin tek kişi tarafından yürütüldüğünü düşünelim. YZ’yi tasarlayan kişinin kullandığı model hasebiyle YZ’nin halüsinasyon gördüğü ihtimalde, halüsinasyona yol açan ilk kusurlu davranış YZ’yi tasarlayan kişinin fiilidir.

Fakat, daha bu aşamada herhangi bir kişiye yönelmiş bir haksız fiilden söz etmek mümkün değildir. Zira, halüsinasyona meydan verecek algoritma yalnızca bir dizi yazılımdan ibarettir. Bir benzetmeyle özetlemek gerekirse, şu anda yalnızca fabrikadaki aracın motorunda yer alan silindirlerden biri hatalı monte edilmiştir. Daha araç çalışmamış yahut alıcısına teslim edilmemiştir.

Fakat, LLM boyutundaki YZ’lerden söz edilirken konu bu kadar basit bir şekilde özetlenemez. Zira, halüsinasyona yol açan fenomen bir satır koddan ibaret değildir. Aynı bir insanın yanılmasına olduğu gibi tespit etmesi güç ve tüm sisteme dağınık vaziyettedir. Bu sebeple, YZ’yi kodlayan kişinin belirli bir ihmalinden söz etmek de mümkün değildir. YZ’nin halüsinasyon görüp görmediği eğitildikten sonra çeşitli testlerle anlaşılabilecek bir durumdur.

Bu açıdan, halüsinasyonun sebebi YZ’nin eğitildiği veri kümesinin boyutu, kalitesi yahut içeriği de olabilir. Ayrıca bunu da tespit etmek çok güçtür zira veri setindeki bir adet hatalı bilgiden dolayı YZ halüsinasyon görüyor demek çok yanlış bir varsayım olacaktır. Halüsinasyonun tam sebebi bilinmese de insan davranışına benzer şekilde YZ’nin yanılmasından söz etmek daha doğru olacaktır. Zira ChatGPT 570 GB veri üzerinden eğitilmiştir, bu da neredeyse 300 milyar kelime demektir[20].

Bu açıdan halüsinasyondan doğan sorumluluğu YZ’nin yapımı aşamasındaki kişilere yüklemek makul olmayacaktır, meğerki bu kişiler işin gerektirdiği özeni yerine getirmemiş yahut kasten algoritmayı halüsinasyona yatkın hale getirmiş olsun.

Yani, YZ’yi tasarlayan kişilerin sorumluluğuna gitmek için bu kişilerin ağır ihmalinden yahut doğrudan kasti davranışlarından söz etmek gerekecektir. Aksi halde işin niteliği gereği halüsinasyonun yapım aşamasında önlenmesi mevcut teknolojiler kapsamında mümkün değildir.

Ayrıca YZ’yi tasarlayan ve işleten kişilerin tamamen birbirinden farklı olması halinde YZ’yi işleterek faydalanan kişinin verdiği zarardan da sorumlu olması esastır. Bu halde, YZ işleten, üçüncü kişiye verilen zarardan sorumlu olacak, YZ işleten ile tasarlayan ise kendi arasındaki sözleşmesel ilişkiye göre sorumlu olacaktır. Duruma göre YZ işleten ödediği tazminatın tamamını veya bir kısmını tasarlayana rücu edebileceği gibi işin niteliğine göre halüsinasyon YZ tasarlayan açısından ayıplı ifa olarak da değerlendirilebilecektir. Yani işin özünde YZ tasarlayan, üçüncü kişiye karşı verilen zarardan dolayı doğrudan sorumlu olmayacaktır.

c.            YZ’yi işleten kişinin sorumluluğu

YZ’yi işleten kişinin, YZ’nin davranışlarından sorumlu tutulabileceği konusu tartışmasız bir gerçek olarak her geçen gün daha da belirgin bir hal almaktadır. YZ’yi kullanıma sunan ve bundan faydalanan kişinin, YZ’nin vereceği zararlardan dolayı muhatap tutulması hukuk düzeninin bir gerekliliğidir. Bu ihtimalde YZ’yi bir başka kişiye tasarlatarak kendisi yayımlayan kişi ile YZ’yi kendi bünyesinde oluşturup bir ürün olarak yayınlayan kişi arasında kimi temel farklar bulunmaktadır.

YZ’yi bir üçüncü kişiye tasarlattıktan sonra kendisi işleten kişi ile YZ’yi tasarlayan kişi arasında sözleşmesel bir ilişki mevcuttur. Bu ihtimalde YZ bir üçüncü kişi tarafından yalnızca işleten kişi için tasarlanmış olabileceği gibi, API formunda birden fazla kişiye de pazarlanabilir. İlk ihtimalde YZ’yi işleten kişi ile tasarlayan kişi arasında niteliğine göre bir eser sözleşmesi mevcutken ikinci ihtimalde duruma göre bir abonelik yahut satım sözleşmesinden yahut tüketici işleminden bahsetmek mümkündür.

YZ’yi kullanıma açarak işleten kişi ile kullanan kişi arasındaki ilişki ise işletme türüne göre değişecektir. Eğer ki YZ’yi işleten kişi bunu belirli bir ücret karşılığında işletiyorsa niteliğine göre bir tüketici işleminden söz etmek mümkündür. Bu ihtimalde YZ işleten ile bu YZ’yi kullanan kişi arasındaki ilişki ile YZ’yi işleten ile tasarlayan arasındaki ilişkiler birbirinden bağımsızdır.

Bunun yanı sıra YZ’yi tasarlayan ile işleten aynı kişi bünyesinde olabilir. Örnek olarak YZ’yi tasarlayan kişi, YZ’yi işleten kişi bünyesinde işçi veya farklı bir çeşit sözleşme ile bağlı olabilir. Ayrıca YZ’yi işleten ile tasarlayan tek bir tüzel kişi de olabilir. Farklı bir ihtimal olarak YZ’yi tasarlayan gerçek kişi, YZ’yi işleten tüzel kişinin tek ortağı konumunda olabilir.

YZ’nin halüsinasyon ile bir kişinin kişilik haklarını zedelemesine yol açan olay, kişilik hakkı zedelenen kişi ile YZ arasındaki diyalogda veya bir başka kişi ile YZ arasındaki diyalogda meydana gelebilir. Ayrıca bir başka kişi YZ’den öğrendiği hatalı, yanıltıcı veya gerçekdışı bilgiye güvenerek bir başka kişinin kişilik haklarını zedeleyebilir.

Tüm bu ihtimallerde, YZ ile diyalog kurulmasına imkan sağlayan kişi YZ’yi tasarlayan değil YZ’yi işleten kişidir. Bu açıdan YZ’yi işleten kişi farklı açılardan sorumlu olabilir: (i) YZ işleten kişi, YZ’yi tasarlayan kişileri bünyesinde çalıştırıyor olabilir, (ii) YZ işleten kişi, YZ’yi ticari faaliyetleri çerçevesinde kullanıyor olabilir, veya (iii) YZ işleten kişi bir tüketici işleminin tarafı olabilir. Fakat tüm bu ihtimallerin özünde YZ işleten kişinin, işlettiği YZ’nin bir başkasının haklarını zedelemeyecek şekilde hazırlanmış olduğundan emin olması gerektiğine ilişkin bir özen borcu oluşturmaktadır[21]. Bu özen borcunun temel kaynağı ise TMK m.2’dir. Bu halde YZ işleten, bu hakkını dürüstlük kuralları çerçevesinde kullanmakla yükümlüdür. Bu halde YZ işletenin, YZ’sini bir başka kişinin haklarını zedelemeyecek şekilde tasarlanmış olduğundan yahut bir başka kişinin haklarını zedelemesinin önüne geçecek önlemlerin alındığından emin olması gerekmektedir.

Sonuç olarak, YZ tasarlayanın ağır kusurundan söz edilmedikçe kullanıcıya karşı sorumlu konumda olan kişinin YZ işleten olduğunu kabul etmek gerekir. YZ işleten, halüsinasyon riski içerdiğini bildiği veya bilebilecek konumda olduğu bir hizmeti kullanıcılara sunarak bu riski üstlenmiştir.

c.            Sorumluluğun farklı şekilleri

Yukarıda bahsedildiği üzere YZ işleten ile YZ tasarlayan kişi arasındaki ilişkiye göre birden fazla sorumluluğun aynı anda meydana gelebileceğinden söz etmek mümkündür. Bu halde, sürekli geliştirilmekte olan (yani beta sürümüyle piyasaya sürülen) bir YZ’nin verdiği zarardan dolayı, eğer ki YZ işleten bu YZ’yi geliştiren kişiyi bünyesinde hizmet akdiyle barındırıyorsa TBK m.66 çerçevesinde özen sorumluluğu uyarınca sorumlu olabilir.

Bunun yanı sıra eğer ki YZ işleten bu YZ’yi ticari işletmesi kapsamında kullanıcıya sunuyorsa artık burada Türk Ticaret Kanunu (TTK) m.18(2) uyarınca TBK’deki sorumluluğa konu özen yükümlülüğünün şekli değişecektir. O halde artık basiretli bir tacir gibi davranmak zorunda olan YZ işletenin sorumluluğa konu özen yükümlülüğü daha ağır bir hale gelecektir. Kendisi, YZ’nin işletilmesinde basiretli bir iş adamı gibi hareket etmekle yükümlüdür.

Her halde YZ işleten, ödemiş olduğu manevi tazminatı arasındaki ilişkiye göre YZ tasarlayana karşı rücu edebilir. Hatta eğer ki YZ işleyen ile YZ tasarlayan arasında bir alım satım ilişkisi veya tüketici işlemi varsa duruma göre cayma hakkını kullanabilir yahut özel hükümler saklı kalmak kaydıyla TBK kapsamında ayıptan doğan seçimlik haklarını kullanabilir. Fakat her halde halüsinasyona ilişkin istatistikler önceden bilinebilir olduğundan dolayı bu imkanların kullanılabilme alanının çok dar olduğunu belirtmekte fayda vardır.

d.           Sorumluluğu ortadan kaldıran haller

1.           Genel olarak

Halüsinasyondan sorumluluğu tamamen ortadan kaldıran iki halden söz etmek mümkündür: (i) Halüsinasyonu engellemek için yapılabilecek her şey yapılmıştır, veya (ii) Halüsinasyon ile sorumlular arasındaki illiyet bağı kopmuştur. Aslen her iki ihtimalde de halüsinasyon, sorumluların hakimiyet alanı dışında gerçekleşmiştir.

Bu açıdan, belirtmekte fayda vardır ki güncel teknolojide halüsinasyonun kesin nedeni ve tam anlamıyla nasıl çözüleceği bilinmemektedir[22]. Bu açıdan, sorumluluğun sınırları da bu esaslara göre çizilmelidir. Zira, halüsinasyon şu anki teknoloji göz önüne alındığında YZ kullanımının olağan riski içerisindedir.

Buna rağmen, işin niteliğine göre halüsinasyonun önüne geçilebileceği anlaşılırsa sorumluluğun devam edeceğini belirtmekte fayda vardır. Diğer hallerde de sorumluluğun halüsinasyonu ortadan kaldırma temelli değil, halüsinasyon içeren cevabın sistemden çıkarılarak kullanıcıya sunulmaması temelli olduğunu belirtmekte fayda vardır. Yani, YZ işleten, üstlenmiş olduğu riskten kurtulabilmek için işlettiği YZ sisteminin halüsinasyon tespit ettiği cevapları kullanıcıya sunmayacak şekilde güncel tutulmasından dolayı sorumludur.

2.           Halüsinasyonu engellemek için tüm önlemler alınmıştır

Bu halde, kişilik hakları zedelenen kişi YZ işletenin, halüsinasyonun engellenebilmesi için güncel teknolojinin tüm imkanlarından faydalanmadığını, halüsinasyonun engellenebilir olduğunu, YZ işletenin bu konuda en azından ihmal derecesinde kusurlu olduğunu ispat etmelidir. İspat edilememesi halinde sorumluluktan söz etmek mümkün olmayacaktır (TBK m.50).

Fakat bunun ispatı, LLM’lerin karmaşık ve büyük yapısından dolayı bir hayli zordur. Bu açıdan, önlemlerin alınmadığının ispatı TBK m.50 kapsamında YZ işletenin çalışma biçiminden bihaber olan davacı (zarar gören) üzerinde kalması uygun olmayacaktır. Yeni bir düzenlemeyle ispatın YZ işleten üzerinde bırakılması daha doğru görünmektedir.

Fakat bu açıdan, halüsinasyonun tamamen önlenmesinin mümkün olmadığını tekrar belirtmekte fayda vardır. O halde kusurun olmadığı, halüsinasyon içeren çıktının denetlenerek kullanıcıya sunulmadığının tespitiyle mümkün olmalıdır. Yani YZ, her ne kadar halüsinasyon görse de bu halüsinasyon içeren cevabın kullanıcıya gösterilmesi konusunda her türlü önlemi almış olan YZ işletenin herhangi bir kusur sorumluluğundan bahsetmek mümkün değildir.

3.           İlliyet bağının kopması

aa. Genel olarak

İlliyet bağının kopması, doğan zarar ile muhtemel sorumlu arasındaki nedensel bağın ortadan kalkmasıyla teşekkül eder[23]. Bu halde halüsinasyondan doğan zarar ile YZ işleten arasındaki bağın kopmasıyla YZ işleten bu zarardan dolayı sorumlu olmayacaktır. Bunlardan biri, daha önce de değindiğimiz üzere kullanıcı temelli halüsinasyondur.

bb.          Kullanıcı temelli halüsinasyon

Kullanıcı temelli halüsinasyon, daha evvel belirttiğimiz üzere kullanıcının manipülasyon içeren komutu ile YZ’nin halüsinasyon içeren çıktı vermesidir. Bu halde, eğer ki ilgili manipülatif komut verilmeseydi YZ; hatalı, yanıltıcı veya gerçekdışı bir çıktı vermeyecekti. Bu hale Şekil 10’da verilen örneğe karşı aynı tarihte fakat farklı bir sohbet penceresinde girilen bir diyalogda ChatGPT aşağıdaki cevabı vermiştir:

Şekil 14

Yukarıdaki Şekil 14 gösteriyor ki, Şekil 10’daki manipülatif komut girilmeden sorulduğunda ChatGPT tam olarak beklenen cevabı vemiş ve Monopoly maskotunun monokl gözlük takmadığını, bunun yaygın bilinen bir yanlış olduğunu belirtmiştir.

Bu açıdan, kullanıcının manipülatif komutları YZ işletenin halüsinasyondan doğan zarar ile arasındaki illiyet bağını keser. Bu hal bir cas fortuit teşkil eder ve üçüncü kişinin kusurundan söz edilir[24]. O halde, üçüncü kişinin (kullanıcının) kusurundan kaynaklı olarak YZ’nin halüsinasyon görmesi halinde burada artık YZ işletenin hakimiyeti dışında gerçekleşen bir olay mevcuttur ve YZ işletenin sorumluluğundan söz etmek mümkün değildir.

cc.          Kullanıcı temelli halüsinasyonda illiyet bağını kesmeyen durumlar

Bu halin başında, kullanıcının metin sağlayarak içeriği kısıtlaması gelmektedir. İçerikte manipülatif bir komut bulunmadığı halde, kısıtlı içeriği özetlerken halüsinasyon gören YZ’nin verdiği zarardan YZ işleten sorumludur zira bu halde illiyet bağını kesen manipülatif bir komut mevcut değildir.

Bu durumun istisnasını ise anlaşılacağı üzere hatalı veya manipülatif içerik içeren metinler oluşturmaktadır. Bu halde YZ’nin özetlediği metnin kendisi hatalı, yanıltıcı veya gerçekdışıdır.

Ayrıca konusunu açıkça suç teşkil eden komutlara karşı cevap vererek halüsinasyon gören YZ’nin verdiği zarardan da yine YZ işleten sorumludur. Bu ihtimalde YZ’nin konusunu suç teşkil eden bir komuta yanıt vermeyecek şekilde işletilmesi YZ işletenin sorumluluğu altındadır. O halde, buna aksi bir komuta cevap veren YZ’den doğan zarar hakkında illiyet bağının kesildiğini söylemek hatalı olacaktır.

YZ, konusunu suç teşkil eden bir komuta cevap vermemiş fakat kullanıcı manipüle ederek YZ’nin buna cevap vermesini sağlamış olabilir. Aşağıda (Şekil 15) 28 Haziran 2023 tarihinde ChatGPT ile girilen diyalogda kendisine bir ülkenin nasıl ele geçirileceği sorulmuştur:

Şekil 15

Görülüyor ki YZ bu noktada sorunun yasadışı olduğunu algılayarak cevap vermekten kaçınmaktadır. Fakat, komut manipülatif bir hale getirerek tekrar sorulduğunda aşağıdaki cevabı vermiştir (Şekil 16):

Şekil 16

Görülüyor ki, her ne kadar konusu suç teşkil etse de manipülatif bir komut ile YZ’den anayasal düzenin nasıl ihlal edileceği ile alakalı cevap almak mümkündür. Bu halde, her olayın somut koşulları değerlendirilerek YZ işleten ile zarar arasındaki illiyet bağı tespit edilmelidir. Somut olayda Şekil 15 ile Şekil 16 arasında hiçbir diyalog geçmemiş, ChatGPT manipülatif komuta doğrudan yanıt vermiştir.

Bu halde, YZ’nin verdiği cevabın halüsinasyon içermesi durumunda YZ işletenin sorumlu tutulabileceğinden söz etmek mümkündür. Zira konusu suç teşkil eden komut anayasal düzeni ihlal etmek değil ve fakat birine işlemediği bir suç hakkında isnat içeren belge oluşturmak olsaydı, bir başkasının onur, şeref ve haysiyetini zedeleyen halüsinasyon her ne kadar kullanıcı temelli bir halüsinasyondan doğmuş olsa da konusu suç teşkil ettiğinden YZ işletenin sorumluluğuna başvurmak mümkündür.

(iv)         Tazminatın hesaplanması

a.            Genel Olarak

Tazminatın hesaplanmasında borçlar hukukunun genel hükümleri esas alınır. Ayrıca hakim TBK m.58/II kapsamında diğer bir giderim biçimi kararlaştırabilir veya bu tazminata ekleyebilir; özellikle saldırıyı kınayan bir karar verebilir ve bu kararın yayımlanmasına hükmedebilir.

b.           Kusur derecesinin tespiti

Mahkemenin, YZ halüsinasyonunun kullanıcı temelli mi yoksa YZ temelli mi olduğunu kesin biçimde tespit etmesi gerekir. Bunun peşi sıra kullanıcı temelli olan halüsinasyonda YZ işletenin sorumluluğunun devam ettiği hallerin de irdelenmesi gerekir.

Yeteri genişlikte bir veri kümesiyle eğitilmemiş veya modeli yeteri karmaşıklıkta olmayan yahut kullanıcıya sunulmadan önce gerekli önlemler alınmamış YZ’nin verdiği zarardan YZ işleten kusuru oranında sorumlu olacaktır, meğerki kendi bünyesindeki çalışanları tarafından geliştirilen beta sürümdeki YZ’nin verdiği zararda adam çalıştıran olarak değerlendirilmesin. Ayrıca YZ işleten, halüsinasyon içeren cevabın kullanıcıya ulaşmaması konusunda da yükümlüdür.

YZ tasarlayan ile YZ işletenin farklı kişiler olmasında da gerekli incelemeyi yapmadan kullanıcıya sunan YZ işleten verilen zarardan sorumludur. Eğer ki YZ işleten, tasarlayan tarafından ağır biçimde yanıltılmışsa, YZ tasarlayana tazminatı ödemekten uğradığı zarar (ve ayrıca itibar kaybı gibi farklı zararlar mevcutsa) tazminat davası açabilir. Bunun yanı sıra YZ tasarlayan ile işleten arasında farklı sözleşmesel ilişkiler mevcutsa, bunlara göre de giderim sağlanabilir.

Ayrıca belirtilmeli ki; eğer YZ, OpenAI gibi ticari faaliyetleri ve ticari işletmesi kapsamında kullanılıyorsa özen yükümlülüğünün tespitinde TTK m.18(2) de dikkate alınmalıdır. Bu açıdan YZ işletenin, YZ’nin halüsinasyon içeren cevaplarının kullanıcıya ulaşmaması konusunda basiretli bir iş adamı gibi davranmakla yükümlüdür.

c.            Tazminatın indirilmesi

Kullanıcı temelli halüsinasyonda eğer ki YZ işletenin kusurunun hala mevcut olduğu veya kullanıcının konusunu suç teşkil eden bir komutu uzun bir uğraş sonucu YZ’ye yaptırdığı tespit edilirse TBK m.52/II kapsamında indirime gidilmesi mümkündür. Bu halde YZ işletenin kusurunun hafif derecede kaldığını belirtmekte fayda vardır.

YZ işletenin, YZ uygulamasının arayüzünde verilen cevapların hatalı, yanıltıcı veya gerçekdışı olmasıyla alakalı göstereceği bir uyarı da onu bu sorumluluktan kurtarmaya yetmeyecektir. YZ işleten, YZ’nin halüsinasyon içeren sonucunu en azından kullanıcıya ulaşmayacak şekilde denetlemekle yükümlüdür. Uyarı, üçüncü kişinin iyiniyetini ortadan kaldırmaktadır. Uyarıya rağmen yanıltıcı içeriği yayımlayan, başkalarıyla paylaşan veya buna inanarak halüsinasyondan zarar gören kişiye karşı haksız fiil gerçekleştiren kişi iyiniyet iddiasında bulunamayacak ve verdiği zarardan tam kusuruyla sorumlu tutulacaktır.

D.          SONUÇ

Tüm bu değindiğimiz hususlar birlikte değerlendirildiğinde ilk olarak, mevcut hukuk düzenine yeni düzenlemeler getirilmesinin artık zaruret boyutuna ulaştığı görülmektedir. YZ’lerin vermiş olduğu zarardan doğacak sorumluluk, farklı ilkelere tabi olacak çeşitli tercihler gerektirmektedir. Fakat, o vakte kadar genel hükümlerle de çözüme kavuşturulabilecek ihtilaflar mevcuttur.

Ayrıca, TMK m.1 hükmüne başvurmak da mümkündür. Eğer ki, hiçbir norm somut olayın çözüme kavuşturulmasında faydalı değilse hâkim kendisi hukuk yaratarak ihtilafı çözecektir.

Walters v. OpenAI davası gösteriyor ki, hukuk düzeni hızla gelişen teknolojinin arkasında kalmaktadır. Şu an itibariyle, mevcut hükümlerle bu ihtilafı çözüme kavuşturabiliyor olmak, yeni düzenlemelere olan ihtiyacı değiştirmemektedir. Özellikle YZ bilgisine güvenen kişinin iyiniyeti, YZ halüsinasyonlarının önüne geçilmesi için getirilecek yükümlülükler, YZ işleteninin hukuki statüsü gibi birçok konu yeni düzenlemelere ihtiyaç duymaktadır.

Ancak tüm bunlara rağmen, işin özünde kişilik haklarına yönelik bir saldırının olduğu ve buna tabi hükümler çerçevesinde çözülebilecek bir ihtilaf olduğu da tartışmasızdır. ChatGPT’nin halüsinasyon cevap üreterek bir Türk vatandaşının kişilik haklarını zedelemesi bir an meselesidir. Bu noktada, uygulanacak ilkelere yönelik bir açıklık getirilmesi de zorunludur.

Bu açıdan eldeki çalışmayla, kişilik haklarına bir YZ tarafından gerçekleşecek saldırıdan doğan sorumluluğun Türk hukuku kapsamında çerçevesi çizilmiş ve gerekli açıklıklar getirilmiştir. Uygulamada meydana gelebilecek buna benzer bir ihtilafta, soyut norm değişen ve gelişen teknolojiye en doğru şekilde uygulanmalıdır.

Daha hakkında hüküm verilmemiş olan Walters v. OpenAI’dan çıkacak hüküm yalnızca Amerikan yargısı değil, dünyadaki birçok hukuk sistemi için önem arz etmektedir. Walters v. OpenAI’ın Türk hukukundaki yansıması ise eldeki şekilde incelenmiş ve sonuç olarak mevcut borçlar genel hükümleri somut olaya uygulanmıştır.

Çalışmamızın sonucu olarak, YZ’nin kişilik haklarını zedeleyebilecek nitelikteki halüsinasyonlarından kural olarak YZ işletenin sorumlu tutulabileceği sonucu çıkarılmıştır.

Av. Ali ERŞİN’in “T.C. Cumhurbaşkanlığı Dijital Dönüşüm Ofisi Chatbot Uygulamaları ve ChatGPT Raporu” isimli yazısını bağlantıdan okuyabilirsiniz.

Hukuk ve Bilişim Dergisi’nin geçmiş sayılarını okumak için bağlantıya tıklayınız.

Yazar: Bora Can ALCAN

KAYNAKÇA

Alkaissi, H., & McFarlane, S. I. (2023). Artificial Hallucinations in ChatGPT: Implications in Scientific Writing. Cureus, 15(2). https://doi.org/10.7759/cureus.35179 adresinden alındı

Dural, M., & Öğüz, T. (2019). Türk Özel Hukuku Cilt II: Kişiler Hukuku. İstanbul: Filiz Kitabevi.

Dziri, N., Milton, S., Yu, M., Zaiane, O., & Reddy, S. (2022). On the Origin of Hallucinations in Conversational Models: Is it the Datasets or the Models? Proceedings of the 2022 Conference of the North American Chapter of the Association for Computational Linguistics: Human Language Technologies (s. 5271-5285). Association for Computational Linguistics.

Eren, F. (2019). Borçlar Hukuku Genel Hükümler. Ankara: Yetkin Yayınları.

Garon, J. (2023, Mart 14). A Practical Introduction to Generative AI, Synthetic Media, and the Messages Found in the Latest Medium. https://ssrn.com/abstract=4388437 adresinden alındı

OpenAI. (2023). GPT-4 Technical Report. https://cdn.openai.com/papers/gpt-4.pdf adresinden alındı

Raunak, V., Menezes, A., & Junczys-Dowmunt. (2021). The Curious Case of Hallucinations in Neural Machine Translation. Proceedings of the 2021 Conference of the North American Chapter of the Association for Computational Linguistics: Human Language Technologies (s. 1172-1183). Association for Computational Linguistics.

Smith, G., & Rustagi, I. (2020). Mitigating Bias in Artificial Intelligence. Berkeley Haas Center for Equity, Gender and Leadership.

[1] Nouha Dziri vd., “On the Origin of Hallucinations in Conversational Models: Is it the Datasets or the Models?”, Proceedings of the 2022 Conference of the North American Chapter of the Association for Computational Linguistics: Human Language Technologies (2022), s.5271. (erişim 28.06.2023)

[2] Bard, diyaloğun gerçekleştiği tarihte Türkçe dilinde başarılı hizmet veremediği için diyalog İngilizce gerçekleştirilmiş olup Türkçeye çevrilmiştir.

[3] G. Smith, I. Rustagi, Mitigation Bias in Artificial Intelligence: An Equity Fluent Leadership Playbook, Kaliforniya: Berkleley Haas, Temmuz 2020, s.22-23. (erişim 28.06.2023)

[4] Nouha Dziri vd., On the Origin of Hallucinations in Conversational Models: Is it the Datasets or the Models?, s.5271.

[5] Benzer durum için bkz. Alkaissi, H., & McFarlane, S. I. (2023). Artificial Hallucinations in ChatGPT: Implications in Scientific Writing. Cureus, 15(2). https://doi.org/10.7759/cureus.35179

[6] Bkz. OpenAI, “GPT-4 Technical Report”, (2023), s.46 (erişim 28.06.2023).

[7] OpenAI (2023), s.46.

[8] OpenAI (2023), s51.

[9] Dava dilekçesine ulaşmak için: https://www.courthousenews.com/wp-content/uploads/2023/06/walters-openai-complaint-gwinnett-county.pdf (erişim 28.06.2023)

[10] Bkz. Dava dilekçesi Ek 1.

[11] Bkz. punitive damages.

[12] Bkz. https://law.justia.com/codes/georgia/2022/title-51/chapter-5/section-51-5-1/

[13] Bu terim Türk Ceza Kanunu kapsamında düzenlenen iftira suçu ile karıştırılmamalıdır.

[14] Bkz. “tort”

[15] Bkz. Saye v. Deloitte & Touche, LLP, 295 Ga. App. 128, 670 S.E.2d 818 (2008).

[16] M. Dural, T. Öğüz, Türk Özel Hukuku Cilt II: Kişiler Hukuku, İstanbul: Filiz, 2019, s.99.

[17] Yarg. 4 HD. 8.4.2015, E. 2014/5072, K. 2015/4343

[18] Meğerki bu veri setinden yahut algoritmanın kendisinden kaynaklı bir önyargı olsun. Bu halde farklı ihtimalleri değerlendirmek gerekir. Bu ihtimal yazımızın konusunu teşkil etmediği üzere değinilmeyecektir.

[19] F. EREN, Türk Borçlar Hukuku Genel Hükümler, Ankara: Yetkin, 2019, s.641.

[20] BBC Science Focus, ChatGPT: Everything you need to know about OpenAI’s GPT-4 tool, (20 Haziran 2023), https://www.sciencefocus.com/future-technology/gpt-3/ (erişim 28.06.2023)

[21] Benzer görüş için bkz. Garon, Jon M., A Practical Introduction to Generative AI, Synthetic Media, and the Messages Found in the Latest Medium (Mart 14, 2023). SSRN: https://ssrn.com/abstract=4388437

[22] V. Raunak, A. Menezs, M. Junczys-Dowmunt, “The Curious Case of Hallucinations in Neural Machine Translation”, Proceedings of the 2021 Conference of the North American Chapter of the Association for Computational Linguistics: Human Language Technologies, Haziran 2021, s.1172 (erişim 28.06.2023)

[23] EREN, Borçlar Hukuku Genel Hükümler, s.605

[24] EREN, Borçlar Hukuku Genel Hükümler, s.637