Yapay zeka kaynaklı istihbarat hatası ABD'yi Çin ile savaşın eşiğine getirdi

Orta Doğu'daki bir Çin gemisinin nükleer silah programına ait bileşenler taşıdığı iddia edilen istihbarat raporu, ilkbahar aylarında ABD ordusu içinde büyük bir endişe yarattı.

Dört kaynağın aktardığına göre, gemiyi durdurmak için hemen harekete geçen ABD ordusu, silahlı personeli gemiye çıkmaya hazırladı ve askeri uçakları havalandırdı.

Ancak planlanan operasyondan hemen önce raporu derinlemesine inceleyen yetkililer, belgenin bir özel operasyon analisti tarafından yapay zeka yardımıyla hazırlandığını ve yapay zeka sohbet botunun gemideki kargoyu tamamen yanlış tanımladığını ortaya çıkardı.

Tamamen uydurma olan bu raporun neredeyse bir savaşı tetikleyeceği belirtildi.

Askeri kararlarda yapay zeka riski ve denetim eksikliği

ABD ordusu ve istihbarat birimleri, verileri analiz etmek ve hedef belirlemek gibi birçok alanda yapay zekayı entegre etmeye çalışsa da, bu olay teknolojinin savaş ortamındaki risklerini gözler önüne serdi.

Analistin, açık kaynaklı istihbarat ile gizli istihbarat verilerini harmanlayan bir sohbet botuna başvurarak hazırladığı raporu standart bir istihbarat belgesi gibi yaydığı ifade edildi.

Savunma Bakanlığı'nın yapay zeka kullanımını hızlandırma stratejilerine rağmen, farklı kurumların farklı güvenlik standartlarıyla hareket etmesi ve bu araçların denetimsiz kullanımı endişe yaratıyor.

Uzmanlar, yapay zekanın yanlış bilgi üretme eğiliminin ve özellikle genç analistlerin bu araçlara aşırı güvenmesinin insan denetiminin yetersiz kaldığı durumlarda ölümcül hatalara yol açabileceği konusunda uyarıyor.