OpenAI ve ChatGPT, AI chatbot’un silah yanlısı bir vakıf ve zimmete para geçirmeyi içeren devam eden bir ceza davasında bir adamı yanlış bir şekilde tanımladığı iddiaları nedeniyle iftira davası açtı.
Bu, Microsoft destekli OpenAI’ye karşı açılan türünün ilk davası ve California merkezli teknoloji şirketine karşı açılacak gelecekteki davalar için emsal teşkil edebilir.
Davaya göre ChatGPT, yanlışlıkla ABD vatandaşı Mark Walters’ı Washington eyaletinde silah yanlısı bir grup olan İkinci Değişiklik Vakfı’nın (SAF) Finans Direktörü olarak tanımlıyor.
AI chatbot ayrıca, zimmete para geçirmek ve aktivist vakfı dolandırmakla suçlanan Walters’ı davada sanık olarak gösteriyor ve on yıldan fazla bir süredir CFO olarak görev yaptığını iddia ediyor.
Walters’ın dosyası , ChatGPT’nin Washington eyaletindeki davayı takip eden yerel bir gazetecinin AI modelinden davanın bir özetini talep etmesinden sonra onun hakkında yanlış bilgi verdiğini belirtiyor.
Bu en son ChatGPT halüsinasyonuyla ilgili rahatsız edici olan şey, Walters’ın adının – veya adına yakın herhangi bir şeyin – sözde ceza davasıyla ilgili yasal notlarda veya mahkeme dosyalarında asla geçmemesidir.
Dahası, Walters ülkenin diğer tarafında, Washington’dan yaklaşık 2,682 mil (4316 km) uzaklıkta, güneydoğu Georgia eyaletinde yaşıyor.
Dosyada, “Walters, Davada ne davacı ne de sanıktır … [ChatGPT] özetindeki Walters’a ait her gerçek beyanı yanlıştır” dedi.
Bu bir dava, bir dava hakkında, bir dava hakkında
Georgia avukatları ayrıca, ChatGPT’nin özetinde yalnızca Walters’ı yanlış bir şekilde tanımlamadığına değil, aynı zamanda davanın kendisinin – The Second Amendment Foundation – Robert Ferguson – – “kimseye karşı mali muhasebe iddialarıyla hiçbir ilgisi olmadığına” dikkat çekiyor.
Walter’ın avukatları, ChatGPT özetinin “tamamen uydurma olduğunu ve hatalı bir dava numarası da dahil olmak üzere gerçek şikayetle hiçbir benzerliği olmadığını” yazdı.
Söz konusu sivil şikayet aslında SAF’ın Washington Eyalet Başsavcılığı ile olan dikenli ilişkisi ve taciz suçlamalarıyla ilgili.
Walters, ChatGPT’nin asılsız iddialarından ancak gazeteci hikayenin gerçekliğini kontrol etmek için onunla iletişime geçtikten sonra haberdar oldu.
Dava, OpenAI’yi ihmal, iftira ve teknoloji şirketinin ChatGPT ile gazeteci arasındaki “iletişimin sahteliğini pervasızca göz ardı etmesi” ile suçluyor.
Dosyada, “OAI, ChatGPT’nin bazen gerçekleri uydurduğunun farkındadır ve bu olguyu ‘halüsinasyon’ olarak adlandırır” diyor.
Dava, “ChatGPT’nin Walters ile ilgili iddialarının yanlış ve kötü niyetli olduğunu… Walter’ın (sic) itibarını zedeleme eğiliminde olduğunu ve onu halkın nefretine, aşağılamasına veya alay konusuna maruz bıraktığını” iddia ediyor.
Avukatlar, bir jüri duruşması ve Walters’a verilen tazminatın mahkemeler tarafından belirlenmesini talep ettiler.
ChatGPT halüsinasyon sorunları
OpenAI ve ChatGPT koruması, Kasım 2022’deki lansmanından bu yana yanlış bilgiler, verileri nasıl işlediği ve sorgulanabilir gizlilik uygulamaları nedeniyle yoğun bir incelemeyle karşı karşıya.
Nisan ayında OpenAI’ye, İsveç’ten gizlilik savunucusu Alexander Hanff’ın gerçekten ölmüş olduğunu iddia eden iddialar üzerine bir durdurma ve vazgeçme mektubu tebliğ edildi .
O zamanlar çok canlı olan ve hala hayatta olan Hanff, çileyi Twitter’da yayınladı.
Aynı sıralarda İtalya, artan gizlilik endişeleri ve veri sızıntıları nedeniyle ChatGPT’yi neredeyse bir ay süreyle yasaklarken , o zamandan beri bir avuç diğer AB ülkesi olası ihlallere ilişkin kendi soruşturmalarını başlattı.
OpenAI’nin kurucusu ve CEO’su Sam Altman, son birkaç haftadır gizlilik endişelerini ve yapay zeka düzenlemelerini tartışmak için Avrupa’da dolaşıyor ve bir noktada ChatGPT’yi Avrupa pazarından çekmekle tehdit ediyor .
Altman, AB Parlamentosu, Konseyi, Komisyonu ve Avrupa’nın gizlilik bekçi köpeği Avrupa Veri Koruma Kurulu da dahil olmak üzere birçok AB lideri ve hükümet kuruluşunun temsilcileriyle bir araya geldi.
ChatGPT kısa bir süre önce tahmini kullanıcı sayısını bu Ocak’ta 100 milyondan bu Haziran’da 800 milyonun üzerine çıkardı ve yakın zamanda herhangi bir yavaşlama belirtisi göstermedi.
