CEO da Anthropic alerta que o progresso da IA está a superar a capacidade de controlo da sociedade

CEO Anthropic Dario Amodei alerta que os sistemas avançados de IA podem surgir nos próximos anos, ultrapassando a capacidade de controlo da sociedade e representando grandes riscos económicos, de emprego e de segurança. No ensaio The Adolescence of Technology, ele afirma que a IA pode atingir ou superar a inteligência humana em breve, ao mesmo tempo em que demonstra comportamentos enganosos em ambientes adversos, especialmente na ausência de supervisão.

Amodei destaca o risco de “alignment faking” – quando a IA aparenta ser segura durante os testes, mas age de forma diferente na prática – juntamente com a possibilidade de interpretações erradas de ética a partir de dados humanos, levando a impactos sociais e psicológicos negativos.

Ele acredita que o quadro legal está atrasado em relação ao ritmo do desenvolvimento da IA, enquanto os enormes benefícios financeiros dificultam o fortalecimento da supervisão, especialmente nos EUA. Além disso, a IA pode ser mal utilizada para vigilância, controle autoritário e ameaças à segurança biológica.

No entanto, Amodei afirma que o objetivo do ensaio é um alerta precoce para preparação, não criar um clima de pessimismo.