Demandent à ChatGPT et l’actualité ressuscite les alarmes sur l’utilisation de l’intelligence artificielle pour les consultations médicales. Un pasteur de Floride affirme que la réponse du chatbot l’a dissuadé de chercher des soins médicaux, malgré des symptômes qui, selon ses avocats, auraient pu coûter la vie. Ce cas met en lumière la responsabilité des entreprises technologiques face à leurs utilisateurs.
La demande a été déposée à Los Angeles par Scott Winters, pasteur résidant en Floride, contre OpenAI et son PDG, Sam Altman. Selon le document judiciaire, Winters a consulté ChatGPT pour demander des symptômes qui incluaient des douleurs fortes, un malaise général et des problèmes respiratoires. Le chatbot aurait minimisé la gravité du tableau, suggérant que cela pouvait s’agir d’un problème mineur qui ne nécessitait pas une attention immédiate.
Après avoir empiré son état, Winters s’est finalement rendu dans un centre médical où, selon la demande, il a été diagnostiqué avec une condition potentiellement mortelle. Le pasteur soutient que, si il avait reçu une recommandation plus prudente, il aurait cherché les soins médicaux plus tôt. C’est pourquoi Demandent à ChatGPT pour négligence, préjudice émotionnel et économique.
Demandent à ChatGPT et se reavive le débat sur la IA
Ce cas s’ajoute à d’autres incidents qui ont mis en lumière les systèmes d’intelligence artificielle générative. Des experts en éthique digitale avertissent que les chatbots ne sont pas certifiés comme outils médicaux, mais beaucoup d’utilisateurs les utilisent comme première source d’orientation. Des organismes comme l’Organisation Mondiale de la Santé ont insisté pour que aucune plateforme automatique ne remplace le conseil d’un professionnel de la santé.
Des avocats consultés soulignent que l’une des clés du processus sera de déterminer si les avertissements d’utilisation de la plateforme étaient clairs et visibles pour l’utilisateur. La demande qui Demandent à ChatGPT pourrait devenir un référentiel pour les futurs litiges liés à des erreurs ou des recommandations imprudentes de systèmes d’IA.
Risques de l’utilisation de ChatGPT pour les consultations médicales
Des spécialistes en technologie médicale soulignent que les modèles de langage comme ChatGPT sont entraînés avec de grands volumes de texte, mais ne remplacent pas les diagnostics cliniques. Ils peuvent commettre des erreurs, offrir des informations désuètes et même générer du contenu imprecis. C’est pourquoi ils insistent pour que tout symptôme grave soit évalué directement par un personnel médical.
- Les chatbots peuvent omettre des signes d’alarme cliniques.
- Elles ne vérifient pas l’historique médical ni les antécédents familiaux.
- Les réponses dépendent de la façon dont l’utilisateur décrit les symptômes.
- Les plateformes incluent généralement des avertissements pour indiquer qu’elles ne fournissent pas d’orientation professionnelle.
Demandent à ChatGPT et se questionne la responsabilité commerciale
La décision de Winters de porter le cas devant les tribunaux est interprétée comme partie d’une tendance mondiale : exiger des responsabilités aux entreprises d’intelligence artificielle pour les effets de leurs produits dans la vie quotidienne. Des régulateurs des États-Unis et de l’Europe discutent actuellement des normes plus strictes pour l’utilisation de l’IA en santé, finances et services publics.
Si les juges considèrent que l’avertissement de la plateforme était insuffisant ou confus, le jugement pourrait obliger des changements dans la façon dont les systèmes sont conçus et communiqués. Si la négligence est confirmée, la demande qui Demandent à ChatGPT pourrait inciter d’autres personnes à réclamer lorsque les réponses de l’IA sont associées à des dommages concrets.
Impact sur les utilisateurs en République Dominicaine et dans la région
Dans des pays comme la République Dominicaine, où l’utilisation de outils numériques augmente rapidement, ce cas sert de mise en garde. Bien que la demande soit déposée aux États-Unis, les plateformes d’IA sont utilisées de manière similaire dans toute l’Amérique latine, souvent sans accompagnement professionnel. Pour les lecteurs dominicains, la nouvelle selon laquelle Demandent à ChatGPT renforce une idée clé : la technologie peut être utile pour obtenir des informations générales, mais la santé et les décisions critiques nécessitent toujours l’intervention d’experts.
Alors que le processus judiciaire avance et que la définition de la demande légale qui Demandent à ChatGPT se précise, le débat sur la régulation de l’intelligence artificielle continuera à gagner en importance dans les tribunaux, les congrès et les cabinets médicaux.
