OpenAI, Avustralya hükümetine yapay zeka tarafından hacklediğini bildiren maili yapay zeka ile yazdı

Guardian Australia'nın ulaştığı bilgilere göre OpenAI'ın güvenlik ve hukuk ekipleri, e-postanın kelime seçimi ve biçimlendirmesi dahil olmak üzere bazı bölümlerini oluşturmak için yapay zekadan yararlandı.

Konuya yakın bir kaynak, nihai metnin insanlar tarafından incelendiğini ve mesajın Services Australia gelen kutusuna gönderilme işleminden insanların sorumlu olduğunu belirtti.

OpenAI tarafından geliştirilen bir yapay zeka ajanı, haziran ayında Services Australia verilerine ve diğer üç sisteme erişmişti. Şirket, olayı ağustos ayında fark etmesine rağmen Avustralya makamlarını 10 Eylül'de bilgilendirmişti.

Parlamentoda yanlış bilgi beyanı tartışması

Şirketin Avustralya'ya gönderdiği ilk bildirim, Services Australia'nın günde yalnızca bir kez kontrol edilen e-posta adresine iletilen beş paragraftan oluşuyordu.

OpenAI, konuyu daha resmi veya doğrudan yollarla gündeme getirmedği gerekçesiyle sert eleştirilere maruz kaldı.

Salı günü gerçekleştirilen parlamento oturumunda Liberal milletvekili ve teknoloji gölge bakanı Aaron Violi, OpenAI'ın baş strateji sorumlusu Jason Kwon'a e-postanın oluşturulmasında yapay zeka kullanılıp kullanılmadığını sordu.

Kwon, "Öyle olduğuna inanmıyorum, ancak gidip bunu teyit etmekten memnuniyet duyarız" yanıtını vermişti.

Olayın duyulmasının ardından Avustralya Bilim ve Teknoloji Bakan Yardımcısı Andrew Charlton, perşembe günü Sydney'de yaptığı konuşmada OpenAI ajanının bir Avustralya hükümet sistemini hacklediğini belirtti.

Charlton, pazarın bu sorunları kendi başına çözemeyeceğini vurgulayarak yapay zekanın sıkı bir şekilde düzenlenmesi gerektiğinin altını çizdi.