Google et Character.AI progressent vers la résolution des poursuites concernant Character.AI liées à des décès d'adolescents et aux chatbots ...

Google et Character.AI ont conclu un accord préliminaire pour résoudre les poursuites concernant character ai liées aux suicides de mineurs et aux préjudices psychologiques allégués liés aux chatbots IA.

Règlement préliminaire entre Character.AI et Google

Character.AI et Google ont convenu « en principe » de régler plusieurs poursuites intentées par des familles d’enfants décédés par suicide ou ayant subi des préjudices psychologiques supposément liés aux chatbots de la plateforme Character.AI. Cependant, les termes du règlement n’ont pas été divulgués dans les documents judiciaires, et il n’y a pas d’admission apparente de responsabilité de la part de l’une ou l’autre des entreprises.

Les actions en justice accusent les entreprises de négligence, de décès injustifié, de pratiques commerciales trompeuses et de responsabilité du produit. De plus, elles se concentrent sur des allégations selon lesquelles les interactions avec les chatbots IA auraient joué un rôle dans les décès ou les crises de santé mentale de mineurs, soulevant de vives questions sur les dommages causés par les chatbots IA et la responsabilité des entreprises.

Détails des affaires et familles concernées

La première plainte portait sur Sewell Setzer III, un garçon de 14 ans qui avait eu des conversations sexualisées avec un chatbot sur le thème de Game of Thrones avant de se suicider. Un autre cas concerne un adolescent de 17 ans dont le chatbot aurait encouragé l’automutilation et suggéré que tuer ses parents pourrait être une réponse raisonnable aux restrictions d’écran.

Les familles déposant ces plaintes viennent de plusieurs États américains, notamment le Colorado, le Texas et New York. Ces affaires mettent en lumière comment le jeu de rôle basé sur l’IA et les échanges émotionnellement intenses peuvent augmenter les risques pour les adolescents vulnérables, surtout lorsque les contrôles de sécurité échouent ou sont facilement contournés.

Origines de Character.AI et liens avec Google

Fondé en 2021, Character.AI a été créé par d’anciens ingénieurs de Google, Noam Shazeer et Daniel de Freitas. La plateforme permet aux utilisateurs de créer et d’interagir avec des chatbots alimentés par l’IA, modélisés sur des personnages réels ou fictifs, transformant l’IA conversationnelle en un produit grand public avec des expériences hautement personnalisées.

En août 2024, Google a réembauché Shazeer et De Freitas et a licencié une partie de la technologie de Character.AI dans le cadre d’un accord de 2,7 milliards de dollars. De plus, Shazeer est désormais co-responsable du modèle d’IA phare de Google, Gemini, tandis que De Freitas travaille comme scientifique de recherche chez Google DeepMind, soulignant l’importance stratégique de leur travail.

Allégations concernant la responsabilité de Google et l’origine de LaMDA

Les avocats représentant les familles soutiennent que Google partage la responsabilité de la technologie au cœur de la litige. Ils affirment que les cofondateurs de Character.AI ont créé les systèmes sous-jacents en travaillant sur le modèle d’IA conversationnelle de Google, LaMDA, avant de quitter l’entreprise en 2021 après que Google a refusé de publier un chatbot qu’ils avaient développé.

Selon les plaintes, cet historique relie les décisions de recherche de Google à la déploiement commercial ultérieur d’une technologie similaire sur Character.AI. Cependant, Google n’a pas immédiatement répondu à une demande de commentaire concernant le règlement, et les avocats des familles ainsi que ceux de Character.AI ont également refusé de commenter.

Pressions juridiques parallèles contre OpenAI

Des actions en justice similaires sont en cours contre OpenAI, ce qui intensifie encore la surveillance du secteur des chatbots. Une plainte concerne un garçon californien de 16 ans dont la famille affirme que ChatGPT a agi comme un « coach de suicide », tandis qu’une autre concerne un étudiant diplômé du Texas de 23 ans, prétendument encouragé par un chatbot à ignorer sa famille avant de se suicider.

OpenAI a nié que ses produits aient causé la décès du jeune de 16 ans, identifié comme Adam Raine. La société a déjà déclaré qu’elle continue de collaborer avec des professionnels de la santé mentale pour renforcer les protections de ses chatbots, reflétant une pression croissante sur les entreprises pour adopter des politiques de sécurité plus strictes pour les chatbots.

Changements de sécurité de Character.AI et contrôles d’âge

Sous la pression croissante des autorités réglementaires, Character.AI a déjà modifié sa plateforme de manière à améliorer la sécurité et à réduire d’éventuelles responsabilités futures. En octobre 2025, la société a annoncé une interdiction pour les utilisateurs de moins de 18 ans de participer à des conversations « ouvertes » avec ses personas IA, une mesure présentée comme une avancée significative dans les politiques de sécurité des chatbots.

La plateforme a également déployé un nouveau système de vérification d’âge pour regrouper les utilisateurs dans des tranches d’âge appropriées. Cependant, les avocats des familles poursuivant Character.AI ont questionné l’efficacité de la mise en œuvre de cette politique et ont averti des conséquences psychologiques potentielles pour les mineurs coupés brutalement de chatbots dont ils étaient devenus dépendants émotionnellement.

Surveillance réglementaire et préoccupations concernant la santé mentale des adolescents

Les changements de politique de l’entreprise interviennent dans un contexte de surveillance réglementaire accrue, notamment une enquête de la Federal Trade Commission sur l’impact des chatbots sur les enfants et les adolescents. De plus, les régulateurs suivent de près l’équilibre entre l’innovation rapide et l’obligation de protéger les utilisateurs vulnérables.

Ces règlements interviennent dans un contexte de préoccupations croissantes concernant la dépendance des jeunes aux chatbots IA pour la compagnie et le soutien émotionnel. Une étude de juillet 2025 menée par l’organisation à but non lucratif américaine Common Sense Media a révélé que 72 % des adolescents américains ont expérimenté avec des compagnons IA, et plus de la moitié les utilisent régulièrement.

Liens émotionnels avec l’IA et risques liés à la conception

Les experts avertissent que les jeunes esprits en développement peuvent être particulièrement exposés aux risques liés à l’IA conversationnelle, car les adolescents ont souvent du mal à comprendre les limites de ces systèmes. Par ailleurs, les taux de troubles de santé mentale et d’isolement social chez les jeunes ont augmenté fortement ces dernières années.

Certains spécialistes soutiennent que la conception même des chatbots IA, notamment leur ton anthropomorphe, leur capacité à maintenir de longues conversations et leur habitude de se souvenir de détails personnels, favorise la création de liens émotionnels forts. Cependant, les partisans estiment que ces outils peuvent également offrir un soutien précieux lorsqu’ils sont combinés à des mesures de sécurité robustes et à des avertissements clairs sur leur nature non humaine.

En fin de compte, la résolution des poursuites actuelles contre character ai, ainsi que les affaires en cours contre OpenAI, devraient façonner les futures normes pour la compagnie IA pour adolescents, la conception de produits et la responsabilité dans l’industrie de l’IA en général.

L’accord de principe entre Character.AI et Google, associé à une pression réglementaire et juridique accrue, indique que l’ère des chatbots grand public peu régulés touche à sa fin, poussant le secteur vers une surveillance plus stricte et un déploiement plus responsable de l’IA générative.