Anthropic contrata expertos en armas químicas para evitar que Claude sea utilizado indebidamente, los expertos cuestionan si esta medida podría aumentar los riesgos

Gate News informa que, el 17 de marzo, Anthropic publicó en LinkedIn una oferta de empleo para el puesto de «Gerente de Políticas sobre Armas Químicas y Explosivos de Alto Poder», que requiere que los candidatos tengan al menos 5 años de experiencia en defensa contra armas químicas y/o explosivos, y conocimientos sobre dispositivos de dispersión radiactiva (bomba sucia). Anthropic afirmó que este puesto tiene como objetivo prevenir que su herramienta de IA, Claude, sea utilizada para «abuso catastrófico», ya que temen que Claude pueda ser empleado para obtener información sobre la fabricación de armas químicas o radiactivas, por lo que se necesita que expertos evalúen si las medidas de seguridad existentes son lo suficientemente estrictas. Otra compañía de IA también publicó en su página de empleo un puesto similar, dirigido a investigadores en riesgos biológicos y químicos, con un salario anual que puede alcanzar los 455,000 dólares. Ante esto, la Dra. Stephanie Hare, co-presentadora del programa de la BBC «AI Decoded» y investigadora en tecnología, cuestionó: «¿Realmente es seguro que los sistemas de IA manejen información sensible sobre productos químicos, explosivos y armas radiactivas? Incluso si se les da la orden de no usar esa información». Además, señaló que actualmente no existe ningún tratado internacional ni regulación que norme este tipo de trabajos ni la combinación de IA con estas armas, «todo esto se realiza fuera del alcance del público».