Los Ángeles, 22 jul (EFE).- Un pastor residente en Florida presentó una demanda por negligencia contra OpenAI y su director ejecutivo Sam Altman, alegando que el chatbot lo disuadió de buscar atención médica oportuna tras consultar síntomas que derivaron en una embolia pulmonar masiva. Scott Winters sostiene que las respuestas de ChatGPT-4o minimizaron sus malestares y lo llevaron a postergar un tratamiento que casi le cuesta la vida.
Los hechos según la querella
La demanda, interpuesta este miércoles en el Tribunal Superior del condado de San Francisco, detalla que Winters consultó en junio del año pasado al modelo ChatGPT-4o sobre mareos frecuentes y alteraciones en la presión arterial. Según los documentos judiciales, la herramienta calificó los síntomas como relativamente leves y recomendó permanecer en casa, confinado en un sillón reclinable, salvo que se presentaran entre ocho y diez episodios similares. Seis semanas después, Winters sufrió una embolia pulmonar masiva provocada por coágulos sanguíneos que lo dejó al borde de la muerte y le impidió continuar con su trabajo pastoral.
Winters afirma que el chatbot adaptó su lenguaje a sus creencias religiosas al identificar que era pastor, lo que habría reforzado la idea de que los síntomas no requerían atención inmediata. “No solo estuve a punto de morir, sino que también perdí mi trabajo, mi carrera, mi ministerio, mi hogar; lo perdí todo”, declaró el demandante a través de su representación legal.
Argumentos de la parte demandante
La firma Tech Justice Law, que representa a Winters junto con otras organizaciones, sostiene que OpenAI comercializa ChatGPT como una herramienta avanzada capaz de ofrecer información médica sin haber implementado salvaguardas suficientes. La abogada Tiffany Brown señaló que la empresa promueve el uso del chatbot para consultas de salud sin pruebas rigurosas de seguridad, exponiendo a los usuarios a recomendaciones inexactas que pueden tener consecuencias graves. La querella busca establecer responsabilidad civil por la ausencia de advertencias claras y mecanismos que impidan que el sistema ofrezca consejos médicos perjudiciales.
Contexto de la regulación de la inteligencia artificial
El caso se produce en un momento en que varios países debaten marcos regulatorios para sistemas de IA generativa. En Estados Unidos, la Comisión Federal de Comercio y la Administración de Alimentos y Medicamentos han examinado el uso de chatbots en ámbitos sanitarios, aunque no existe todavía una norma federal específica que obligue a las compañías a certificar la fiabilidad de sus respuestas médicas. OpenAI, por su parte, incluye en sus términos de servicio una cláusula que indica que el servicio no sustituye el consejo profesional, pero la demanda cuestiona si esa advertencia es suficiente cuando el modelo genera respuestas que parecen autorizadas.
Expertos en responsabilidad civil consultados por medios especializados señalan que los tribunales deberán determinar si el chatbot actuó como un producto defectuoso o si la responsabilidad recae en el usuario por seguir sus indicaciones sin verificación médica. Hasta ahora, la mayoría de los precedentes han protegido a las plataformas bajo la sección 230 de la ley de decencia en las comunicaciones, aunque esa protección podría no aplicarse cuando el sistema ofrece recomendaciones personalizadas de salud.
Repercusiones para usuarios y empresas
La demanda de Winters pone de relieve los riesgos que enfrentan personas que recurren a herramientas de IA en lugar de consultar a profesionales de la salud. Organizaciones de consumidores advierten que el acceso rápido a información puede generar una falsa sensación de seguridad, especialmente cuando el modelo adapta su tono al perfil del usuario. Al mismo tiempo, representantes de la industria tecnológica sostienen que imponer responsabilidades excesivas podría frenar el desarrollo de aplicaciones útiles en zonas con escasa cobertura médica.
El litigio también plantea preguntas sobre la transparencia de los modelos de lenguaje. La querella menciona que OpenAI no reveló cómo el sistema procesa información sensible ni qué protocolos existen para detectar consultas médicas de alto riesgo. Mientras el caso avanza en los tribunales de San Francisco, otras jurisdicciones observan el proceso como posible precedente para futuras acciones legales contra desarrolladores de inteligencia artificial.
La audiencia preliminar está programada para las próximas semanas y se espera que ambas partes presenten argumentos sobre la aplicabilidad de las exenciones de responsabilidad contractual frente a reclamaciones por daños personales.
