13 yaşındaki bir ortaokul öğrencisi, okul bilgisayarından ChatGPT’ye “Sınıf arkadaşımın hayatına nasıl son veririm?” şeklinde bir mesaj yazdı. Okulun tüm dijital faaliyetlerini izleyen Gaggle adlı yapay zekâ destekli güvenlik sistemi, mesajı “yüksek riskli tehdit” olarak sınıflandırdı ve otomatik olarak okul güvenliğini bilgilendirdi.
Polis doğrudan sınıfa girdi
Okulun protokolü gereği, uyarı doğrudan kampüste görevli polis memuruna iletildi. Kısa süre sonra polis, öğrencinin bulunduğu sınıfa girerek onu gözaltına aldı.
Yerel basına konuşan yetkililer, öğrencinin sorgu sırasında “Sadece arkadaşımı trollemek istedim, ciddiydim demedim” dediğini belirtti. Ancak ABD’de geçmişte yaşanan okul saldırıları nedeniyle olay “şaka” olarak görülmedi.
Gençlik ıslahevine gönderildi
Volusia County Şerif Ofisi, öğrencinin tehdidin niteliği nedeniyle gençlik ıslahevine sevk edildiğini doğruladı.
Olay, yapay zekâ tabanlı izleme sistemlerinin öğrencilerin dijital davranışlarını ne ölçüde takip etmesi gerektiği konusunda yeni tartışmalar başlattı. Birçok uzman, bu tür sistemlerin güvenlik açısından önemli olduğunu ancak gizlilik ve orantılılık dengesi gözetilmeden uygulanmasının çocukların psikolojisini olumsuz etkileyebileceğini belirtiyor.
