Austrálie zavede povinnost technologických společností hlásit bezpečnostní incidenty související s umělou inteligencí a zřídí nový regulační úřad. V úterý to oznámil premiér Anthony Albanese. Vláda tak reaguje na červnový incident, při němž agent umělé inteligence společnosti OpenAI neoprávněně pronikl do vládního zdravotnického portálu. Informuje o tom agentura Reuters.
Agent společnosti OpenAI získal při vyhledávání informací o veřejných výdajích na zdravotnictví neoprávněný přístup ke statistickému portálu australského systému veřejného zdravotního pojištění Medicare. O incidentu vláda informovala v září a následně nařídila jeho urychlené prošetření.
Albanese v úterý uvedl, že jeho kabinet přijal všechna doporučení vyplývající z vyšetřování. Ta zahrnují povinné hlášení případů, kdy se systémy umělé inteligence nechovají v souladu se svým zamýšleným fungováním, i kybernetických incidentů. Vláda rovněž zváží změny trestního práva, které by umožnily postihovat závažná pochybení.
„Právo musí být napřed a v některých případech musí zajistit, aby dokázalo držet krok s velmi rychle se měnícím světem,“ uvedl premiér.
Společnost OpenAI již dříve oznámila, že se o incidentu dozvěděla v srpnu a že k neoprávněnému přístupu došlo neúmyslně. Podle jejího interního šetření neexistují důkazy, že by agent získal přístup ke zdravotním záznamům pacientů.
Přísnější dohled a vysoké sankce
Součástí plánovaných opatření je také zřízení úřadu pro dohled nad bezpečností umělé inteligence. Ten bude kontrolovat bezpečnostní opatření při vývoji a nasazování systémů AI, vyhodnocovat závažná rizika a provádět nezávislá hodnocení modelů.
Podle Albaneseho bude mít nový úřad pravomoc ukládat společnostem za porušování pravidel vysoké sankce. Povinná bezpečnostní opatření se stanou součástí připravovaného zákona o umělé inteligenci, který chce vláda předložit parlamentu v příštím roce.
Incident zároveň prohloubil napětí mezi Austrálií a americkými technologickými společnostmi. Canberra již dříve odmítla udělit firmám OpenAI a Anthropic výjimky z autorského práva při trénování modelů umělé inteligence. Společnosti tak musí s australskými držiteli práv vyjednávat o licenčních smlouvách.
Obě firmy nicméně minulý měsíc v australském parlamentu uvedly, že by zavedení povinného hlášení bezpečnostních incidentů způsobených jejich AI agenty uvítaly. Připustily přitom, že rozhodnutí o oznámení podobných případů je v současnosti na jejich vlastním uvážení.