"Największe zagrożenie dla ludzkości". Polski badacz pracuje z ekspertami od AI w Kalifornii. Ostrzega: boję się bardziej niż wojny
Natalia Pochroń: Przez ponad dekadę pracował pan jako programista, a od 2023 r. koncentruje się pan na badaniach nad bezpieczeństwem i zachowaniem modeli językowych. Kiedy po raz pierwszy pomyślał pan, że z modelami AI faktycznie może być coś nie tak?
Jan Betley: Pierwszy raz słyszałem o tym dość dawno. W 2014 r. wyszła książka "Superintelligence". Szwedzki filozof Nick Bostrom poruszył w niej temat zagrożeń, które może pociągać za sobą sztuczna inteligencja. Oczywiście nie było jeszcze wtedy takich modeli jak dziś, ale już wtedy Bostrom zwrócił uwagę, że w przyszłości mogą one wejść na zupełnie nowy poziom i stać się trudne do kontrolowania. Nic takiego się nie działo, więc temat ucichł.
Czytaj nas częściej w Google
W ostatnim czasie wrócił ze zdwojoną siłą. Ekspert od sztucznej inteligencji Jacob Coxon, ogłaszając, że odchodzi z Anthropic, powiedział, że "osoby tworzące sztuczną inteligencję szczerze wierzą w to, że do końca tej dekady może ona zabić nas wszystkich". I że "wkrótce będą to nadludzkie systemy, które będą w stanie zhakować wszystko, z dnia na dzień zrewolucjonizować każdą dziedzinę życia". Zgadza się pan z tym?
Zdecydowanie tak. Jest to jak najbardziej możliwe.
Naprawdę wierzy pan w to, że do końca dekady może dojść do zagłady spowodowanej działaniami AI?
Naprawdę. Nie jest to zdanie wyłącznie kilku osób z firmy technologicznej.
KioskNews shows a cleaned-up reading view extracted from the publisher’s page — the original always lives on their site, not ours.