„Musíme zpomalit tempo, jakým zlepšujeme schopnosti modelů umělé inteligence. Pokrok bude i tak rychlý a my musíme moudře využít čas, který tím získáme,“ uvedl Amodei v eseji publikované v sobotu na sociální síti X.
Text navazuje na zprávu o hrozbách, kterou Anthropic zveřejnil ve čtvrtek. Popisuje v ní, jak několik aktérů zneužilo modely umělé inteligence Anthropic Claude k činnostem od vývoje zbraní přes kybernetické operace až po sledování a podvody.
Obavy z potenciálního nebezpečí umělé inteligence se tento týden ještě zvýšily, když výzkumník společnosti Anthropic Jacob Coxon podal výpověď a uvedl, že „lidé, kteří vyvíjejí umělou inteligenci, upřímně věří, že by nás mohla do konce tohoto desetiletí všechny zabít“.
Amodei uvedl, že nechce zastavit pokrok, ale zajistit, aby společnosti měly dostatek času na zabezpečení svých modelů AI a na to, aby to mohla ověřit třetí strana.
Rizika vyhodnotí znalci
Společnost Anthropic v rámci plánu podle svého ředitele dosadí stálé externí znalce do předních firem zabývajících se umělou inteligencí, kteří budou mít přístup k příslušným nástrojům a k interním procesům posuzování rizik.
Podle Amodeie by firmy zabývající se AI měly dobrovolně spolupracovat na vytyčení standardů, jelikož američtí zákonodárci vyzývají k zavedení nových pravidel.