Yapay zekanın kontrolünü kaybedebiliriz

OpenAI CEO’su Sam Altman ile Anthropic CEO’su Dario Amodei, BM Güvenlik Konseyi’nde gelişmiş modeller için küresel sınırlar istedi. Her iki yönetici de kontrolsüz ilerlemenin insanlığın geleceğini tehlikeye atabileceği görüşünde.

Yapay zeka şirketlerinin başındaki isimler, geliştirdikleri teknolojinin kontrolden çıkmaması için bu kez Birleşmiş Milletler’e (BM) çağrı yaptı. Dario Amodei, AI sistemlerinin kötü yönetilmesi hâlinde sonuçların sadece şirketleri ya da ülkeleri değil, insanlığın tamamını etkileyebileceğini söyledi. Sam Altman ise uyarıyı daha da sertleştirdi ve “Geleceğin kontrolünü yapay zekaya kaptırabiliriz” dedi. Tecrübeli CEO’lar ortak ve bağlayıcı güvenlik önlemleri talep etti.

Yapay Zeka Güvenliğinde Ortak Çağrı

Sam Altman ve Dario Amodei, BM Güvenlik Konseyi’ndeki oturumda yapay zeka güvenliği için ülkelerin birlikte hareket etmesi gerektiğini savundu. Önerileri teknolojinin aşırı güçlenmesini sınırlamakla kalmıyor. Aynı zamanda bu gücün tek şirketin veya ülkenin elinde toplanmaması gerektiğini de vurguluyor. Böylece asıl konu modellerin ne kadar yetenekli olduğundan çok onları kimin ve hangi kurallarla denetleyeceği noktasına kaymış vaziyette.

BM’de Yapay Zeka Denetimi Gündeme Geldi

BM Güvenlik Konseyi, yapay zekanın hızla yayılması ve kabiliyetlerinin artması karşısında denetimin nasıl kurulabileceğini tartıştı. Bir gün önce BM Genel Sekreteri Antonio Guterres de “katil robotlar” uyarısı yapmıştı. Uzmanlar ve Avrupalı liderler, bunun abartılı bir senaryo olmadığını, tehlikenin gerçekleşme ihtimalinin bulunduğunu belirtiyor.