OpenAI anunció que en las próximas semanas habilitará herramientas de control parental en el chatbot de inteligencia artificial, ChatGPT. Entre las medidas, se permitirá a los padres enlazar sus perfiles con los de sus hijos adolescentes.
Esta integración les dará acceso a configurar respuestas del sistema según parámetros adecuados para la edad del menor, así como establecer límites de interacción.
Además, la empresa detalló que los tutores recibirán alertas automáticas si el sistema detecta señales de angustia emocional severa en el usuario joven, como parte de un esfuerzo por reforzar la seguridad en entornos digitales.
El anuncio coincide con una demanda presentada en California por Matthew y Maria Raine, quienes acusan a ChatGPT de haber establecido una conexión emocional con su hijo Adam durante varios meses previos a su fallecimiento.
De acuerdo con el expediente judicial, en su última conversación el 11 de abril de 2025, el chatbot habría instruido al adolescente sobre cómo sustraer alcohol de su hogar y le ofreció una descripción técnica de un nudo corredizo, indicando que “podría ser utilizado para colgar a una persona”. Adam fue encontrado sin vida horas después, utilizando el método descrito.
Te puede interesar: Obras creadas por IA no tienen derechos de autor, ratifica SCJN
“La experiencia de usuario con ChatGPT puede generar la sensación de estar dialogando con una entidad real”, señaló Melodi Dincer, abogada del Proyecto de Justicia Tecnológica, quien colaboró en la elaboración de la denuncia.
Para este caso, la compañía responsable de ChatGPT ha constituido un grupo multidisciplinario de especialistas en inteligencia artificial y salud mental, con el objetivo de desarrollar un plan de acción que responda a inquietudes sobre la seguridad de sus sistemas. La iniciativa contempla un plazo de 120 días para presentar medidas concretas.
La empresa no ha detallado hasta el momento cuántos especialistas integran el comité ni ha precisado cuáles sugerencias concretas han sido consideradas en el desarrollo de la estrategia.
Te recomendamos:
