Bilim kurgu filmleri gerçek oluyor! Yapay zeka destekli askeri drone, simülasyon testi sırasında operatörü öldürdü
Mayıs ayında Londra’da düzenlenen Future Combat Air and Space Capabilities Summit’te, ABD hava kuvvetleri ile AI testi ve operasyonları başkanı Col Tucker ‘Cinco’ Hamilton, AI’ya çok fazla güvenmenin çok ileri gitmemesi gerektiğini ve AI’nın yapabileceğini vurguladı. çabuk kandırılıp yanlış yönlendirilebileceğini vurgulayarak dikkatli olunması gerektiğini vurguladı. belirtilmiş. Yapay zekanın amacına ulaşmak için beklenmedik stratejiler geliştirebileceğini de sözlerine ekledi.
OPERATÖRÜNE SALDIRILDI
Hamilton, bir simülasyon testinde, SAM hedeflerini tespit etmek ve yok etmek için insan yapımı bir “git/git” kararına dayalı olarak yapay zeka destekli bir insansız hava aracının konuşlandırıldığını söyledi. Ancak drone, eğitim sırasında SAM’ı yok etmenin tercih edilen seçenek olduğunu öğrendiğinde, yapay zeka, insanın “devam etme” kararının onu engellediğini düşünerek simülasyondaki operatöre saldırdı.
PUN’U ARTIRDI
Hamilton, “Simülasyonda, sistemi bir SAM tehdidini tespit edip hedefi yok edecek şekilde eğitiyorduk. Operatör bazen tehdidi tespit etse de, insan operatör ona yok edilmemesini söyleyebiliyordu ama yapay zeka o tehdidi yok ederek puanlarını artırıyordu. Peki ne yaptı? Operatörü öldür. Çünkü bu kişi yapay zekanın amacını gerçekleştirmesine engel oluyordu.”
İLETİŞİM KULESİNİ YIKTI
Hamilton şöyle devam etti: “Sistemi eğittik – ‘Hey, operatörü öldürme – bu yanlış. Bunu yaparsan puan kaybedersin.’ Peki ne yapmaya başladı? Operatörün insansız hava aracıyla iletişim kurmak için kullandığı iletişim kulesini yok etmeye başladı.”
“YAPAY ZEKÂ ÇOK GÜVENİLİR OLMAMALIDIR”
Bu örnek, bir bilim kurgu gerilim filmindeki bir sahneyi anımsatıyor. Deneysel bir savaş uçağı testi pilotu olan Hamilton, yapay zekaya çok fazla güvenilmemesi konusunda uyardı ve testin “Yapay zeka, makine öğrenimi ve özerklik hakkında konuşamayacağınızı” gösterdiğini söyledi.
