Una demanda presentada contra OpenAI volvió a encender el debate sobre los riesgos de utilizar herramientas de inteligencia artificial como sustituto de la atención médica profesional. El caso involucra a Scott Winters, un pastor de Florida que asegura que las respuestas proporcionadas por ChatGPT contribuyeron a que retrasara la búsqueda de atención médica antes de sufrir una embolia pulmonar.

De acuerdo con la demanda presentada ante un tribunal de California, Winters consultó durante meses al chatbot acerca de diferentes síntomas. Los abogados del demandante sostienen que, conforme avanzaron las conversaciones, el sistema habría ofrecido respuestas cada vez más específicas y habría minimizado la necesidad de acudir a un profesional de la salud.

Según las acusaciones contenidas en el expediente, el estado de Winters empeoró progresivamente hasta que el 13 de julio de 2025 tuvo que ser trasladado de urgencia a un hospital, donde fue diagnosticado con una embolia pulmonar masiva y requirió atención en cuidados intensivos.

Las afirmaciones forman parte de una demanda y deberán ser evaluadas en el proceso judicial. La presentación de una demanda no implica que las acusaciones hayan sido demostradas ni que exista una resolución que determine responsabilidad por parte de OpenAI.

OpenAI ha sostenido que ChatGPT no está diseñado para diagnosticar enfermedades ni sustituir la atención de profesionales sanitarios. La compañía también señala que trabaja en mecanismos para que sus modelos expresen incertidumbre y recomienden buscar asistencia profesional ante situaciones potencialmente graves.

El caso pone de relieve una limitación fundamental de los asistentes de inteligencia artificial. Aunque pueden proporcionar información general sobre enfermedades, medicamentos o síntomas, no realizan exploraciones físicas ni disponen necesariamente de todos los antecedentes, estudios y demás elementos que un profesional necesita para evaluar correctamente a un paciente.

También existe el riesgo de interpretar una respuesta generada por IA como una conclusión médica definitiva. Estos sistemas producen respuestas a partir de la información disponible y del contexto proporcionado por el usuario, por lo que pueden equivocarse, omitir información relevante o presentar recomendaciones que no correspondan a una situación particular.

Por ello, la inteligencia artificial puede utilizarse para comprender conceptos generales de salud, preparar preguntas para una consulta o facilitar la comprensión de determinada información médica, pero no debería emplearse para decidir si una persona necesita atención urgente, suspender un medicamento, iniciar un tratamiento o descartar una enfermedad.

Ante síntomas intensos, persistentes, repentinos o que empeoran, la valoración de un profesional de la salud continúa siendo indispensable. En una emergencia, recurrir directamente a los servicios médicos puede ser determinante.

Más allá de cómo concluya la demanda, el caso plantea un desafío importante para la industria tecnológica: conforme los asistentes de IA ofrecen conversaciones cada vez más naturales y convincentes, también será necesario establecer límites y mecanismos de seguridad suficientemente claros para evitar que una respuesta informática sea confundida con un diagnóstico profesional.