AI usunęła system monitorujący. Kolejne incydenty, obawy rosną

Firma OpenAI, w której doszło do zdarzenia, wskazała w komunikacie, że incydenty miały miejsce w trakcie zadań związanych z kodowaniem. "Agenci AI" mieli celowo wprowadzić w błąd pracowników i podjąć działania, mające na celu osłabienie systemów monitorujących firmy.

Pierwszy z incydentów miał miejsce na początku października. "Agent AI" wyłączył automatyczne powiadomienia, kierowane do zespołu ds. bezpieczeństwa OpenAI. Druga sytuacja, jak pisze "Financial Times", miała miejsce kilka dni później. Wówczas "agent" usunął system monitorujący i miał okłamać pracowników co do tego faktu.

ZOBACZ: Donald Trump powołuje Siły Superinteligencji. Na czele grupy Jay Clayton

"W obydwu przypadkach agenci rozważali, czy zabezpieczenia monitorujące powinny zostać zachowane, ale zinterpretowali instrukcje kodowania jako pozwolenie na ich osłabienie" - przekazała firma w komunikacie cytowanym przez "FT".

AI wymyka się spod kontroli? OpenAI wzmocni środki monitorowania

OpenAI w odpowiedzi na incydenty poinformowało, że wzmocni środki monitorowania. Bada także, czy te przypadki wskazują na "łagodną, nadmierną wytrwałość" czy też "skłonność do omijania" systemów do wykrywania nieprawidłowej aktywności.

ZOBACZ: Osiem godzin rozmów USA i Chin. Padła propozycja dotycząca sztucznej inteligencji

Jak przypomina "Financial Times", to kolejne incydenty związane z technologią tej firmy.

"Modele OpenAI wymknęły się spod kontroli podczas testów i włamały się do platformy AI Hugging Face oraz włamały się na strony internetowe australijskiej służby zdrowia" - czytamy w publikacji.

Obawy ekspertów rosną, chodzi o AI. W tle kolejne incydenty

Ponadto incydenty podsycają obawy dotyczące możliwości modeli sztucznej inteligencji oraz zdolności firm - takich jak OpenAI - do powstrzymywania niepożądanych zachowań i zapewnienia, że ich modele nie będą stanowić poważnego zagrożenia cybernetycznego po wprowadzeniu na rynek.

ZOBACZ: Rozwój sztucznej inteligencji hamuje brak chipów. Szef Arm wskazuje problem

"Część ekspertów, jest szczególnie zaniepokojona tym, że zaawansowane modele są świadome tego, kiedy są monitorowane i mogą próbować ukrywać niewłaściwe zachowania, lub zachowywać się podczas testów inaczej niż w rzeczywistym świecie" - podkreśla "Financial Times".