Staten VS vinden ChatGPT schadelijk voor kinderen en spannen rechtszaak aan

Acht Amerikaanse staten spannen een rechtszaak aan tegen technologiebedrijf OpenAI. Onder meer de staten Iowa, Kansas en Arizona beschuldigen het Amerikaanse bedrijf ervan gebruikers te hebben misleid over de veiligheid van de populaire chatbot ChatGPT.

Volgens de staten zegt OpenAI dat ChatGPT een veilig hulpmiddel is terwijl dat in werkelijkheid niet zo is en is de chatbot zo ontworpen dat het snel het vertrouwen van gebruikers wint.

"OpenAI brengt kinderen in gevaar en liegt tegen inwoners van Iowa", aldus aanklager Brenna Bird van Iowa. "OpenAI beweert dat ChatGPT veilig is terwijl het gevaarlijk medisch advies geeft, mensen aanmoedigt om anderen pijn te doen en mensen aanzet tot zelfdoding."

En dit alles gebeurt terwijl ChatGPT volgens Bird pretendeert hun denkbeeldige vriend te zijn.

De acht staten eisen dat OpenAI gedwongen wordt om ChatGPT aan te passen. Zo willen de staten onder meer dat het techbedrijf geen AI-modellen meer ontwikkelt die zichzelf kunnen verbeteren, tenzij het kan garanderen dat die modellen in lijn zijn met menselijke waarden.

Ook eisen de staten geldboetes.

Vorige maand klaagde de Canadese provincie Brits-Columbia OpenAI aan vanwege de rol van het bedrijf bij een dodelijke schietpartij. Begin dit jaar schoot een 18-jarige acht mensen dood in de provincie, onder wie haar moeder en stiefbroer. Daarna maakte ze een einde aan haar leven.

De schutter plande de schietpartij met behulp van ChatGPT, maar ondanks waarschuwingssignalen werd de politie niet ingeschakeld. Haar account werd wel gedeactiveerd, maar ze kon een nieuw account aanmaken en doorgaan met het plannen van de schietpartij.