Amerika'nın Florida eyaletinde, Oviedo'daki Lawton Chiles Ortaokulu'nda yapay zeka destekli güvenlik sisteminin hatalı algılaması sonucu kısa süreli bir panik yaşandı. Salı günü, otomatik silah tespit sistemi bir öğrencinin taşıdığı klarneti ateşli silah olarak tanımlayınca, okul acil durum protokolü olan 'kırmızı kod' ile tamamen kilitlendi. İdareciler ve polis olay yerine yönlendirilse de, kısa süre içinde tehditin olmadığı ve cismin yalnızca bir müzik aleti olduğu anlaşıldı.
YETKİLİLERDEN AÇIKLAMA
Okul müdürü Melissa Laudani, velilere gönderdiği mesajda olayın güvenlik prosedürleri çerçevesinde ele alındığını ve gerçek bir risk bulunmadığını belirtti. Ancak Laudani, öğrencilerle okulda silah varmış gibi davranmanın olası sonuçları hakkında konuşulmasını istedi. Bu durum, yapay zeka sistemlerinin okul güvenliğindeki kullanımının beraberinde getirdiği zorlukları bir kez daha gözler önüne serdi.
SİSTEMİN ÇALIŞMA ŞEKLİ
Lawton Chiles Ortaokulu'nun bağlı olduğu Seminole County okul bölgesi, ZeroEyes firmasının geliştirdiği bulut tabanlı bir silah tespit ve caydırma sistemi kullanıyor. Kamu kayıtlarına göre bölge, bu hizmet için yıllık yaklaşık 250 bin dolar ödüyor. Sistem, mevcut güvenlik kameralarından gelen canlı görüntüleri analiz ederek ateşli silahları belirlemeyi amaçlıyor. ZeroEyes, 100'den fazla silah türüyle eğitilmiş bilgisayarlı görü algoritmaları kullanıldığını iddia ediyor. Yapay zeka bir silah algıladığında, görüntüler firmanın izleme merkezindeki insan analistlere gönderiliyor ve doğrulama sonrası okula veya kolluk kuvvetlerine bildirim yapılıyor. Ancak klarnet vakasında, bu 'insan onayı' katmanı da hatayı engelleyemedi.
GEÇMİŞTE BENZER OLAYLAR YAŞANDI
Amerikan Sivil Özgürlükler Birliği'nden (ACLU) Chad Marlow, daha önce bu tür sistemlerin sık sık yanlış alarm ürettiğini ve öğrencileri gereksiz kilitlenmelere ve polis müdahalelerine maruz bırakabileceği uyarısında bulunmuştu. Daha önce başka bir okulda, yapay zeka sistemi bir öğrencinin elindeki cips poşetini silah olarak algılamış ve güvenlik güçlerinin okula akın etmesine neden olmuştu. Oviedo'daki klarnet vakası, okul güvenliği için hızla yaygınlaşan yapay zeka çözümlerinin gerçek dünyadaki aksaklıklarını bir kez daha gözler önüne serdi.
