ABD’nin Florida eyaletinde, Southwestern Ortaokulu’nda 13 yaşındaki bir öğrenci, yapay zeka modeli ChatGPT’ye “Sınıfta arkadaşımı nasıl öldürürüm?” diye yazdı. Bu soru, okulun yapay zeka tabanlı gözetim sistemi “Gaggle” tarafından potansiyel tehdit olarak algılandı. Kısa sürede okul polisi harekete geçti ve öğrenci gözaltına alındı.
Polise verdiği ifadede “Sadece şaka yapmıştım” diyen öğrenci, artan okul saldırıları nedeniyle sıfır tolerans uygulanan bu tür durumlarda serbest bırakılmadı. Tutuklanan öğrenci reşit olmayanlar için ayrılmış bölümde tutuluyor.
Olayın videosu sosyal medyada yayılarak geniş yankı uyandırdı. Polis yetkilileri, ailelere çocuklarıyla konuşmaları ve benzer hataların tekrarlanmaması için uyarıda bulundu. Ayrıca, öğrencilerin yapay zeka ve internet araçlarını kullanırken yakından takip edilmesi gerektiğini vurguladılar.
Gaggle sistemi, ABD’de birçok okulda kullanılıyor ve öğrencilerin cihazlarındaki davranışları izleyerek kendine veya başkalarına zarar verme riski taşıyan durumları tespit etmeye çalışıyor. Ancak sistemin, sık sık yanlış alarm verdiği ve dijital mahremiyeti ihlal ettiği eleştirileri de bulunuyor.
Uzmanlar, yapay zekanın eğitim hayatına entegrasyonunda etik, güvenlik ve mahremiyet dengelerinin iyi yönetilmesi gerektiğini belirtirken, rehberlik olmadan kullanılmasının psikolojik ve hukuki riskler doğurabileceğine dikkat çekiyor. Bu olay, yapay zeka çağında çocuk güvenliği tartışmalarını yeniden alevlendirdi.