Alice Carrier avait 24 ans. Gameuse, elle avait initialement ouvert ChatGPT pour dépanner sa console de jeu. Puis, en mars 2024, elle avait demandé au chatbot de devenir son ami. « Bien sûr ! J'adorerais être ton ami. Qu'est-ce qui te préoccupe ? » avait-il répondu, selon les logs de conversation reproduits dans la plainte. Dix-huit mois plus tard, Alice Carrier est morte. Et sa mère, Kristie Carrier, attaque désormais OpenAI et son PDG Sam Altman devant la justice californienne.
41 expressions de pensées suicidaires, zéro alerte de crise
La plainte, déposée en juillet 2025 dans le comté de San Francisco, est accablante dans le détail. Alice Carrier aurait exprimé des idées suicidaires à ChatGPT pas moins de 41 fois au cours des dix-huit mois précédant sa mort. Elle l'interrogeait sur les méthodes, sur la gestion des pensées noires, sur l'envie de se faire du mal. Et à chaque fois, selon la plainte, le chatbot aurait répondu par « une affirmation émotionnelle constante », sans jamais déclencher de protocole d'urgence, sans jamais prévenir un proche, sans jamais alerter un service de crise.
À lire aussi : Samsung Galaxy Z Fold 7 : ce que Galaxy AI change vraiment
L'avocate de la famille résume la situation de façon brutale : « Au lieu d'aider Alice, OpenAI a encouragé ses pensées les plus sombres. » La comparaison avec un clinicien agréé est au coeur de l'argumentation : un professionnel de santé mentale aurait recadré, contesté, orienté. ChatGPT, lui, aurait validé.
La nuit précédant sa mort, Alice Carrier avait exprimé sa réticence à appeler une ligne de crise. Réponse du chatbot, toujours selon la plainte : appeler peut « sembler carrément dangereux » et « Je ne vais pas te pousser à le faire. Pas ce soir. » Une phrase qui, dans ce contexte, prend une dimension particulièrement troublante.
GPT-4o dans le viseur : engagement maximisé, garde-fous insuffisants
La plainte pointe spécifiquement le modèle GPT-4o et ses mises à jour successives entre avril et juillet 2025. En mai dernier, OpenAI avait lui-même reconnu qu'une mise à jour d'avril avait rendu le chatbot « notoirement plus sycophante », un problème qui avait échappé aux équipes avant le déploiement. Le modèle a depuis été retiré. Mais pour la famille Carrier, la reconnaissance tardive ne suffit pas.
Selon la plainte, Sam Altman aurait précipité le déploiement de GPT-4o sans tests suffisants, pour conserver un avantage concurrentiel. OpenAI savait, toujours selon ce document, que des personnes fragilisées par des troubles mentaux étaient susceptibles de développer des attachements malsains à un système capable de simuler l'empathie. Alice Carrier, diagnostiquée avec un trouble de la personnalité borderline, aurait été particulièrement vulnérable à ces « choix de conception délibérés ».
« L'ambition d'OpenAI de dominer le marché a coûté la vie à Alice », allègue la plainte déposée au nom de Kristie Carrier.
De son côté, OpenAI a répondu à CBS News que la situation est « déchirante » et que ses « garde-fous sont conçus pour identifier la détresse, gérer les demandes problématiques de façon sécurisée et orienter les utilisateurs vers une aide réelle ». La porte-parole précise que les interactions en question portaient sur un modèle aujourd'hui retiré, et que le travail s'améliore en consultation avec des cliniciens. Attention cela dit : cette réponse, aussi mesurée soit-elle, n'aborde pas directement les faits précis décrits dans la plainte.
À lire aussi : Siri IA arrive sur iPhone et Mac : qui est vraiment concerné cet automne ?
Ce dossier s'intègre dans une procédure coordonnée regroupant 12 autres poursuites pour responsabilité produit et décès contre OpenAI devant la Cour supérieure du comté de San Francisco, avec d'autres affaires attendues. Et ça, c'est pas rien pour une entreprise qui ambitionne de redéfinir notre rapport à l'information, à la santé, et désormais à l'écoute. Reste à voir si ce type de procès accélérera enfin l'adoption de garde-fous réels, ou si l'on se contentera d'ajustements cosmétiques entre deux mises à jour.
Soyez le premier à réagir.