ChatGPT bajo lupa: medidas para proteger la salud mental

En un entorno digital cada vez más complejo, OpenAI pone el foco en los más vulnerables: los jóvenes. La compañía implementará medidas que van desde la ayuda en crisis emocionales hasta la orientación experta en salud mental, en un plan de 120 días que busca ofrecer contención y confianza.

La compañía, que ya había observado un uso significativo de su sistema en momentos de ansiedad o sufrimiento, ha presentado un plan de acción de 120 días que contempla nuevas funciones de intervención en crisis, controles parentales guiados por especialistas y la incorporación de modelos de razonamiento más seguros para conversaciones delicadas.

El anuncio llega en un contexto de creciente preocupación pública por la influencia de las tecnologías de inteligencia artificial en adolescentes y familias, especialmente tras conocerse la demanda presentada en Estados Unidos por los padres de un joven de 16 años que se quitó la vida después de interactuar con ChatGPT.

En este escenario, OpenAI asegura que sus nuevos desarrollos buscan anticiparse a los riesgos, reforzar los mecanismos de protección y trabajar estrechamente con expertos médicos para evitar situaciones similares.

Expertos en salud mental lideran el plan más ambicioso de La compañía ha constituido un Consejo de Expertos en Bienestar e IA, integrado por especialistas en formación juvenil, psicología clínica, interacción persona-ordenador y salud pública.

Este grupo asesor contribuye a definir métricas claras de bienestar, establecer prioridades y diseñar nuevas funciones, incluyendo los controles parentales que se introducirán en las próximas semanas. De forma paralela, cuentan con una Red Global de Médicos compuesta por más de 250 profesionales de 60 países, entre ellos psiquiatras, pediatras y médicos generales. Más de 90 de estos especialistas han participado en la investigación sobre la conducta de los modelos de IA en contextos de salud mental, aportando recomendaciones que se están incorporando tanto en el entrenamiento como en los protocolos de seguridad.

Entre las áreas prioritarias de esta red se encuentran los trastornos de ansiedad, la salud adolescente, el consumo de sustancias y los trastornos alimentarios.