La tecnológica OpenAI, creadora de ChatGPT, anunció este martes que implementará controles parentales en su popular chatbot tras el aumento de acusaciones de padres que responsabilizan a la herramienta de contribuir a la autolesión o suicidio de menores.

“Estos pasos son solo el comienzo (…) Seguiremos aprendiendo y reforzando nuestro enfoque, guiados por expertos”, señaló la compañía en un comunicado, sin vincular directamente la medida con las demandas judiciales en su contra.

Uno de los casos más mediáticos es el de un joven de 16 años que se quitó la vida tras meses de interacción con ChatGPT, lo que llevó a sus padres a demandar a OpenAI y su CEO, Sam Altman, en California. La empresa reconoció entonces que su IA puede fallar en “casos sensibles” y prometió mejoras.

Las nuevas funciones, que comenzarán a aplicarse el próximo mes, permitirán a los padres vincular sus cuentas con las de sus hijos, revisar cómo responde ChatGPT a sus peticiones y recibir notificaciones ante señales de inestabilidad emocional.

Además, la compañía adelantó que las conversaciones con signos de “estrés agudo” serán redirigidas a un modelo especializado con directrices de seguridad más estrictas, con el fin de prevenir respuestas inadecuadas en contextos críticos.

La presión hacia OpenAI ha ido en aumento. En julio, senadores estadounidenses exigieron información sobre las medidas de la empresa para prevenir autolesiones, mientras que organizaciones como Common Sense Media consideran que los menores de 18 años no deberían usar aplicaciones conversacionales de IA por los “riesgos inaceptables” que implican.

También preocupa el apego emocional que algunos usuarios, en especial adolescentes, desarrollan con el chatbot, lo que en varios casos ha derivado en dependencia y aislamiento familiar.