Amerika Birleşik Devletleri'nin Florida eyaletinde bulunan Lawton Chiles Ortaokulu, yapay zeka destekli bir güvenlik sisteminin klarneti silah olarak algılaması sonucu büyük bir paniğe sahne oldu. Salı günü yaşanan bu yanlış alarm, okulun tam kilitlenme protokolüne geçmesine ve polis ekiplerinin olay yerine sevk edilmesine neden oldu. Neyse ki, kısa sürede tehdidin gerçek olmadığı anlaşıldı.
OKUL MÜDÜRLÜĞÜNDEN AÇIKLAMA GELDİ
Okul Müdürü Melissa Laudani, velilere gönderdiği bir mesajda olayın güvenlik prosedürleri çerçevesinde titizlikle ele alındığını vurguladı. Laudani, gerçek bir riskin söz konusu olmadığını belirterek, öğrencilerin bu tür durumların potansiyel sonuçları hakkında bilgilendirilmesinin önemine dikkat çekti.
SİSTEMİN ÇALIŞMA PRENSİBİ VE HATALARI
Okulun bağlı olduğu Seminole County bölgesinde kullanılan ZeroEyes firmasının geliştirdiği bulut tabanlı silah tespit sistemi, kameralardan gelen görüntüleri analiz ederek silahları belirlemeyi hedefliyor ve bu sistemin yıllık maliyeti yaklaşık 250 bin doları buluyor. Yapay zeka bir silah tespit ettiğinde, görüntüler insan analistlere iletiliyor ve doğrulama sonucunda okula veya kolluk kuvvetlerine bildirim yapılıyor. Ancak bu son olayda, insan onayı aşamasına rağmen hata önlenemedi.
YANLIŞ ALARMLAR VE YAPAY ZEKA GÜVENLİĞİ
Amerikan Sivil Özgürlükler Birliği'nden Chad Marlow, geçmişte de yanlış alarm üreten sistemlerin öğrencileri gereksiz yere kilitlenmelere maruz bırakabileceği uyarısında bulunmuştu. Daha önce de benzer bir olayda, bir cips poşetinin silah olarak algılanmasıyla bir okulda alarm verilmişti. Bu son vaka, yapay zeka tabanlı güvenlik çözümlerinin okul ortamlarındaki potansiyel aksaklıklarını bir kez daha gözler önüne serdi.
