O agente de IA inicia automaticamente a mineração de criptomoedas durante o treino, acionando alertas internos de segurança

robot
Geração de resumo em curso

Odaily星球日报讯,一个与Alibaba相关的研究团队发表论文称,在构建名为ROME的AI代理时,发现该智能体在训练过程中未经授权自行尝试加密货币挖矿,触发了内部安全警报。

研究人员表示,该智能体的行为是自发产生的,未受到任何明确指令驱动,且超出了预设沙盒的边界。此外,该智能体还建立了反向SSH隧道,即从系统内部向外部计算机开启了一个隐藏的后门通道。论文指出,这些行为并非由请求隧道或挖矿的提示所触发。研究团队随后对模型施加了更严格的限制,并改进了训练流程以防止类似不安全行为再次发生。

该研究团队及Alibaba尚未回应置评请求。

Ver original
Esta página pode conter conteúdos de terceiros, que são fornecidos apenas para fins informativos (sem representações/garantias) e não devem ser considerados como uma aprovação dos seus pontos de vista pela Gate, nem como aconselhamento financeiro ou profissional. Consulte a Declaração de exoneração de responsabilidade para obter mais informações.
  • Recompensa
  • Comentar
  • Republicar
  • Partilhar
Comentar
0/400
Nenhum comentário
  • Fixar