Czy AI wymyka się spod kontroli? „To samonapędzająca się technologia”

Opracowanie: Jakub Sarna Publikacja: Dzisiaj, 16 września (17:12)

Dario Amodei, szef Anthropic ostrzega, że do roku AI może przejąć kontrolę nad internetem. Zgodzili się z nim Elon Musk, twórca m.in. Groka i Sam Altman, szef OpenAI. Z kolei prezydent USA Donald Trump oraz chińskie Ministerstwo Spraw Zagranicznych uważają to za „sianie strachu”. O zagrożeniach związanych ze sztuczną inteligencją rozmawia z Tomaszem Terlikowskim w Radiu RMF24 dr Leszek Bukowski, ekspert do spraw nowych technologii.

programowanie na laptopie z kodem komputerowym /Shutterstock

AI jako realne zagrożenie?

Dr Leszek Bukowski uważa, że straszenie sztuczną inteligencją jest strategią biznesową firm zajmujących się nią.
Firmy od początku przedstawiały swój obraz w ten sposób, że mają technologię najpotężniejszą na świecie, żebyśmy trochę zaczęli się bać. To jest jedna warstwa. Druga warstwa to rywalizacja pomiędzy Stanami Zjednoczonymi i Chinami. Obydwa państwa postrzegają technologię sztucznej inteligencji jako kluczową dla dalszego rozwoju i postępu technologicznego. Trzecia warstwa to realne zagadnienia związane z bezpieczeństwem sztucznej inteligencji – zauważa gość Radia RMF24.

AI przejmie kontrolę nad Internetem? "To samonapędzająca się technologia"

Ekspert ds. nowych technologii odnosi się do eseju informatyka Jakuba Pachockiego, zajmującego się badaniem rozwoju modeli w OpenAI.

On napisał, że jedną z rzeczy, którą należy obserwować, to samozwrotność technologii. To jest idea, która dawno się pojawiła, bo już po II wojnie światowej. Von Neumann mówił „Co, jeżeli istniałyby automaty, które potrafią same siebie odtwarzać”? I dzisiaj tak jest. Trenując kolejne modele wykorzystujemy wcześniejsze modele. I to jest bardzo dynamiczny proces, w którym człowiek może zatracić kontrolę. Pachocki użył sformułowania, że my bardziej hodujemy kolejne generacje tych modeli, niż tworzymy. Prawdopodobnie po raz pierwszy ludzkość styka się z technologią, która jest samonapędzająca – podkreśla dr Leszek Bukowski.

Czy można powstrzymać sztuczną inteligencję?

Prowadzący Tomasz Terlikowski zastanawia się czy wobec zagrożenia sztuczną inteligencją nie wystarczy wyłączyć odpowiedniej wtyczki, skoro AI jest napędzane energią.

Kilka razy ta teza się pojawiała, że wciskamy magiczny przycisk i wyłączamy sztuczną inteligencję. Nie do końca jest to prawda, ponieważ sztuczna inteligencja dzisiaj się najbardziej rozwija w takich obszarach, jak tworzenie oprogramowania i matematyka. Teraz to jest cała nasza współczesna technologia. Co, jeżeli za kilkanaście lat będziemy w świecie, w którym ta technologia nie funkcjonuje bez udziału sztucznej inteligencji? Wtedy trochę można się zastanowić nad tym czy faktycznie to my kontrolujemy kill switch – odpowiada gość Tomasza Terlikowskiego.

Kto wygrywa w wyścigu AI?

Gość Radia RMF24 zauważa, że sztuczną inteligencję kontroluje obecnie kilka firm na świecie, głównie ze Stanów Zjednoczonych i Chin.

Stany Zjednoczone odpowiadają za 75 proc. mocy obliczeniowych, jeżeli chodzi o sztuczną inteligencję. Europa to zaledwie 5 proc. – mówi ekspert ds. nowych technologii.

Bukowski uważa, że reszta świata to tylko klienci. Europa, żeby być w pozycji negocjacyjnej względem tych stron musi zbudować własny potencjał technologiczny – stwierdza dr Leszek Bukowski.