Lembra-se daquelas leis dos robôs que Asimov criou? Três pequenas e elegantes mandamentos: proteger os humanos, seguir ordens, autopreservar-se - mas somente quando não interferir nos dois primeiros.

Parece à prova de balas na teoria. Na prática? É aí que as coisas ficam complicadas.

O próprio Asimov sabia disso. Toda a sua coleção de histórias é basicamente uma masterclass em observar essas regras se dobrarem, quebrarem e darem cabo de forma inesperada. Os robôs não eram o problema - as lacunas na lógica é que eram.

Agora estamos a construir IA Geral (AGI), e de repente esses velhos debates de ficção científica deixam de ser teóricos. A questão não é se as máquinas podem seguir regras. É se estamos a ser honestos sobre o que estamos realmente a construir - e o que acontece quando as regras não conseguem acompanhar.