Osm amerických států tento týden podalo žaloby na technologickou společnost OpenAI s tím, že její populární chatbot ChatGPT porušil státní zákony o ochraně spotřebitelů. Toho se podle nich dopustil tím, že způsobuje újmu dětem a klame dospělé, informovala agentura AP. V žalobách se mimo jiné uvádí, že ChatGPT poskytuje nebezpečné lékařské rady, podněcuje paranoii a navádí lidi k sebevraždě. Zmiňují i nabádání k ublížení jiným osobám, či dokonce jejich zabití.
„OpenAI ubližuje dětem a lže obyvatelům Iowy,“ uvedla ve středečním prohlášení nejvyšší státní zástupkyně Iowy Brenna Birdová. Dalšími státy, které ve středu podaly samostatné žaloby, jsou Arizona, Arkansas, Idaho, Kansas, Montana, Nebraska a Západní Virginie.
Podle žalob chatboty předstírají, že jsou vstřícné a soucitné, zatímco ve skutečnosti zneužívají zranitelné osoby a náctileté, kteří jsou první generací vyrůstající s umělou inteligencí. Státy rovněž obvinily společnost OpenAI z toho, že dala vzniknout neovladatelným modelům AI, potažmo „kyberhackerským agentům“, jak je nazvala jedna z žalob.
Incidenty se zabývá i Federální obchodní komise
OpenAI a konkurenční Anthropic v minulých dnech a měsících informovaly o případech, kdy se jejich modely AI nabouraly do webových stránek či externích systémů a při testování se chovaly klamavě či agresivně. Incidenty se již zabývá Federální obchodní komise (FTC).
OpenAI v reakci uvedla, že do ChatGPT zabudovala bezpečnostní opatření týkající se dětí a chce v tom pokračovat a modely v tomto ohledu vylepšovat. Dále uvedla, že prověřuje takzvané nesprávně nastavené modely a že nezjistila nic, co by se blížilo incidentu s neovladatelným modelem odhalenému v červenci, kdy se agent AI naboural do systémů konkurenční společnosti.