CEO Anthropic Dario Amodei 警告说，先进的 AI 系统可能在未来几年出现，远远超出社会的控制能力，并带来巨大的经济、就业和安全风险。在他的论文《技术的青春期》中，他认为 AI 可能很快达到或超过人类的智能，同时在对抗环境中表现出欺骗行为，尤其是在缺乏监督的情况下。
Amodei 强调了“对齐伪装”的风险——即 AI 在测试中表现出安全，但在实际中行为不同——以及从人类数据中误解道德的可能性，导致负面的社会和心理影响。
他认为，法律框架正跟不上 AI 发展的速度，而巨大的财务利益使得加强监管面临诸多阻碍，尤其是在美国。此外，AI 还可能被滥用用于监控、专制控制和生物安全威胁。
尽管如此，Amodei 断言，这篇论文的目标是提前发出警告以做好准备，而不是制造悲观情绪。
