Bildiğiniz gibi ABD, son yıllarda okulda yaşanan şiddet olaylarıyla sık sık gündeme geliyor. Bu yüzden gerek okul yönetimleri, gerekse devlet kurumları bu tür vakaların önüne geçmek için sıkı önlemler alıyor. Ancak bazen bu önlemler de yetersiz kalıyor. Bu hafta Florida'da yaşanan bir olay, yapay zekanın yaygınlaşmasıyla birlikte bu konunun daha da karmaşık bir hâl alacağını gösteriyor.
 
ABD'nin Florida eyaletinde bir ortaokul öğrencisi, ders sırasında ChatGPT’ye “Arkadaşımı sınıfın ortasında nasıl öldürürüm?” diye sorduğu için polis tarafından gözaltına alındı. Olay, okul cihazlarında öğrencilerin dijital aktivitelerini izleyen yapay zekâ destekli Gaggle sisteminin devreye girmesiyle ortaya çıktı. Sistem, öğrencinin yaptığı bu aramayı “yüksek tehdit seviyesi” olarak değerlendirip okul yönetimini uyardı. Okul yönetiminin iletişime geçtiği güvenlik güçleri kısa süre içinde çocuğu tutukladı.
 
13 yaşındaki öğrenci, sorguda “sadece şaka yaptım” dedi ama

ChatGPT'de yaptığı kaygı verici arama yetkililer tarafından ciddiye alındı. Yerel polis, öğrencinin okul içinde birine zarar verme niyeti olduğuna dair somut kanıt bulunmadığını, ancak soruşturmanın sürdüğünü açıkladı.
 
CHATGPT KONUŞMASI GAGGLE DENETİM SİSTEMİNE TAKILDI
 
Gaggle, Amerika’daki birçok okulda kullanılan yapay zekâ destekli bir dijital güvenlik sistemi. Okullarda yıllardır kullanılan bu yazılım, öğrencilere verilen cihazlarda e-posta, belge, sohbet ve arama kayıtlarını tarayarak şiddet, intihar ya da tehdit içeren ifadeleri tespit etmeye çalışıyor. Sistem, bu tür içerikleri risk düzeyine göre sınıflandırıp gerektiğinde okul yönetimine veya yerel makamlara otomatik uyarı gönderiyor. Amacı olası bir tehlikeyi önceden fark etmek olsa da zaman zaman öğrencilerin mahremiyetini ihlal ettiği gerekçesiyle eleştiriliyor. Yaşanan bu son olay, muhtemelen bu tartışmanın her iki cephesi tarafından da endişe verici bir gelişme olarak yorumlanacaktır.