Character.AI restringe el chat abierto para usuarios menores de 18 años e introduce medidas de seguridad

En resumen

Character AI anunció que prohibirá a cualquier persona menor de 18 años tener conversaciones abiertas con sus chatbots de IA a partir de finales de noviembre, tras la presión legal de legisladores y familias que dicen que la plataforma llevó a muertes de adolescentes.

La plataforma de chatbot impulsada por IA, Character.AI, anunció que los usuarios menores de 18 años ya no podrán participar en conversaciones abiertas con sus chatbots de IA, tras las preocupaciones de los legisladores y las familias sobre los posibles riesgos de la plataforma para los adolescentes.

El cambio está programado para entrar en vigor el 25 de noviembre. Mientras tanto, la plataforma planea introducir una experiencia modificada para los usuarios menores de 18 años que les permite continuar actividades creativas como producir videos, historias y transmisiones interactivas con Personajes. Durante esta transición, las sesiones de chat para usuarios menores de 18 años se limitarán a dos horas al día, con reducciones adicionales en el tiempo anticipadas en las semanas previas a la implementación completa.

Además, Character.AI implementará nuevas medidas de verificación de edad para garantizar que a los usuarios se les presenten características apropiadas para su edad. La empresa ha desarrollado un sistema interno de aseguramiento de edad y lo integrará con herramientas de terceros, incluyendo Persona, para mejorar la precisión y fiabilidad.

La plataforma también anunció la creación y financiación del AI Safety Lab, una organización independiente sin fines de lucro dedicada a avanzar en la alineación de seguridad en el entretenimiento de IA. El laboratorio se centrará en desarrollar enfoques innovadores de seguridad, colaborando con expertos externos y compartiendo hallazgos de investigación. Character.AI tiene la intención de que el laboratorio proporcione el mismo nivel de atención centrada en la seguridad al entretenimiento de IA que se aplica a otras aplicaciones de IA, y planea involucrar a empresas tecnológicas, académicos, investigadores y responsables de políticas en esta iniciativa.

Character.AI Actualiza la Plataforma Menores de 18 Años para Mejorar la Seguridad de los Adolescentes Ante las Preocupaciones Regulatorias

Character.AI ha anunciado cambios en su plataforma para usuarios menores de 18 años en respuesta a las crecientes preocupaciones sobre las interacciones de la IA con los adolescentes. Informes recientes e investigaciones de los reguladores han destacado los riesgos potenciales asociados con las conversaciones de IA abiertas, incluso cuando se han implementado controles de contenido. Después de revisar los comentarios de los reguladores, especialistas en seguridad y padres, la empresa determinó que es necesario modificar la experiencia de los menores de 18 años para proteger mejor a los jóvenes usuarios.

Estos ajustes representan pasos significativos para la plataforma y son, en general, más cautelosos que las medidas tomadas por servicios similares. El objetivo es priorizar la seguridad de los usuarios adolescentes, al mismo tiempo que se ofrecen oportunidades para la creatividad, la exploración y la participación. Character.AI tiene la intención de seguir trabajando con expertos en seguridad, organismos reguladores y otras partes interesadas para garantizar que la protección del usuario siga siendo central a medida que la plataforma desarrolle nuevas características que fomenten la expresión creativa y la interacción comunitaria.

Character.AI es una plataforma de IA conversacional que permite a los usuarios interactuar y crear personajes impulsados por IA, o personalidades de bot, alimentadas por grandes modelos de lenguaje.