Brezilya’nın Espírito Santo eyaletinde 36 yaşındaki bir çiftçi, ChatGPT ile yaptığı görüşmeler nedeniyle soruşturma konusu oldu.
BBC News Brasil’in gördüğü mesajlara göre şüphelinin yaklaşık iki ay boyunca ChatGPT ile yaptığı görüşmelerde oğluna, başkalarına ve kendisine yönelik şiddet planlarından söz ettiği iddia edildi.
OpenAI’ın söz konusu mesajları ABD Federal Soruşturma Bürosu’na (FBI) bildirmesinin, FBI’ın da Brezilyalı yetkilileri bilgilendirmesinin ardından şüpheli 19 Haziran’da gözaltına alındı.
EVİNDE ARAMA YAPILDI
Espírito Santo Siber Suçlar Polis Merkezi Başkanı Brenno Andrade, soruşturmanın, şüphelinin 8 yaşındaki oğlunu öldürmeyi planladığı iddiası nedeniyle öncelikli olarak ele alındığını söyledi.
Polise göre şüphelinin oğluyla teması sınırlıydı ve nafaka ödemeleri nedeniyle yaşanan öfke, iddia edilen planın nedenlerinden biri olabilir.
Şüphelinin evinde yapılan aramalarda, içerisinde kimliği belirlenemeyen maddeler bulunan dört şişe ile düğümlenmiş bir ip ele geçirildi. Yetkililer, bu bulguların intihar niyetiyle bağlantılı olabileceğini değerlendirdi.
Polis ayrıca şüphelinin okullar, kiliseler ve polis merkezlerine yönelik saldırılar hakkında ChatGPT ile konuştuğunu öne sürdü.
“PLATFORMUN BİZE SUNDUĞU HER ŞEY DOĞRULANDI”
Soruşturmacılar, şüphelinin zehirli maddeler konusunda araştırmalar yaptığını ve ChatGPT’nin güvenlik önlemlerini aşmak amacıyla sorularını yeniden formüle ettiğini iddia etti.
Polis yetkilisi Andrade, OpenAI tarafından kendilerine iletilen bilgilerin olay yerindeki incelemeler sırasında doğrulandığını savundu.
Bununla birlikte, şüpheli oğluna zarar verme niyetinin bulunduğunu reddetti.
Şüpheli, soruşturmadaki gecikmeler nedeniyle 13 Ağustos’ta 54 günlük gözaltı sürecinin ardından serbest bırakıldı. Hakkında henüz bir suçlama yöneltilmediği, ancak soruşturmanın sürdüğü bildirildi.
Şüpheli hakkında elektronik izleme ve oğluyla ya da çocuğun annesiyle iletişim kurmasının yasaklanması gibi adli tedbirler uygulanıyor.
CHATGPT YANITLARI DELİL OLACAK MI?
Soruşturmanın önemli başlıklarından biri de ChatGPT ile yapılan görüşmelerin hukuki süreçte nasıl değerlendirileceği.
Araştırmacılar, OpenAI’ın kullanıcının bilgilerini ve gönderdiği mesajları sağladığını, ancak ChatGPT’nin verdiği yanıtların kendilerine iletilmediğini belirtiyor.
Ceza avukatı Maíra Fernandes, mesajların bağlamıyla birlikte değerlendirilmesi gerektiğini savunarak görüşmenin tamamının incelenmesinin önemine dikkat çekti.
Fernandes’e göre tüm konuşmanın görülmesi, yapay zekanın yalnızca kullanıcının ifadelerine yanıt verip vermediğinin veya konuşmanın yönünü aktif şekilde etkileyip etkilemediğinin anlaşılmasına yardımcı olabilir.
Şüphelinin avukatı Pedro Paulo Pessi ise müvekkilinin bir sohbet robotuna “saçma sapan şeyler söylediğini” ve herhangi bir suç işlemediğini savundu.
YAPAY ZEKA ŞİRKETLERİNİN İHBAR SORUMLULUĞU TARTIŞILIYOR
Olay, yapay zeka platformlarının olası suçları henüz gerçekleşmeden tespit etmesi durumunda nasıl hareket etmesi gerektiği tartışmasını da gündeme getirdi.
OpenAI, BBC News Brasil’e yaptığı açıklamada, başkalarına zarar verme konusunda güvenilir ve yakın bir risk tespit edilmesi halinde kolluk kuvvetlerinin bilgilendirilebileceğini belirtti.
Dijital hukuk uzmanı Patricia Peck ise belirli bir mağdurun, mevcut araçların ve yakın bir riskin söz konusu olduğu durumlarda yapay zeka şirketlerinin yetkilileri bilgilendirme konusunda etik veya bazı durumlarda yasal yükümlülük taşıyabileceğini söyledi.
Ancak hukuk uzmanları, yapay zeka sistemlerinin değerlendirmelerine dayanarak soruşturmaların otomatik biçimde başlatılmasının da yeni sorunlar yaratabileceğine dikkat çekiyor.
Soruşturma kapsamında şüphelinin telefonunun incelendiği ve ele geçirilen materyallerle ilgili adli incelemelerin sürdüğü belirtildi. Yetkililer, bu incelemeler sonucunda şüphelinin iddia edilen planlarını hayata geçirmek için somut adımlar atıp atmadığının belirlenmeye çalışıldığını bildirdi.
