El uso de chatbots basados en inteligencia artificial (IA) para obtener consejos de salud o diagnósticos médicos puede ser más peligroso de lo que parece, según un estudio publicado este año. La investigación detalla que estos sistemas, que utilizan modelos de lenguaje de gran tamaño (LLM), no logran ofrecer recomendaciones médicas consistentes o precisas cuando interactúan con usuarios reales.

A pesar de que estos modelos pueden desempeñarse bien en pruebas estandarizadas de conocimiento médico, su rendimiento se desploma en escenarios reales de consulta, donde los pacientes describen sus síntomas y esperan orientación fiable. En experimentos con casi 1 300 participantes, quienes usaron chatbots de IA no tomaron mejores decisiones que quienes utilizaron métodos tradicionales como búsquedas en internet o su propio criterio.

📉 Principales hallazgos del estudio

• Los chatbots a menudo mezclan recomendaciones útiles con información incorrecta, dificultando que los usuarios identifiquen qué es confiable.

• La falta de una comunicación precisa entre usuario y modelo —como datos incompletos o confusos— empeora la calidad de las respuestas.

• En algunos casos, el sistema no logra reconocer situaciones urgentes o peligrosas, lo que puede retrasar la atención médica necesaria.

Expertos señalan que esta brecha entre la capacidad técnica del modelo y su uso práctico puede confundir a los usuarios y generar diagnósticos equivocados o acciones inadecuadas relacionadas con la salud.

Por ello, los investigadores advierten que los chatbots de IA aún no están preparados para reemplazar la orientación de profesionales de la salud y que su uso para decisiones médicas debe limitarse a información general, nunca como sustituto de una consulta médica formal.