La empresa OpenAI, líder en el mercado de la IA y desarrolladora de ChatGPT, anunció la semana pasada que implementará controles parentales para la supervisión del uso de la plataforma por niños y adolescentes.

Se trata de una reacción ante la creciente preocupación social y legal “por los posibles efectos adversos del chatbot en la salud mental de los adolescentes, especialmente tras la reciente denuncia presentada por los padres de un joven de 16 años que se quitó la vida en California, y quienes responsabilizan al modelo GPT-4o».

OpenAI emitió un comunicado en su sede en San Francisco donde se refirió a la medida como un primer paso en el reforzamiento de su enfoque, “guiados por expertos, con el objetivo de que ChatGPT sea lo más útil posible”. 

Las nuevas funciones para el control parental entrarán en vigencia el mes próximo y “permitirán a los padres vincular sus cuentas con las de sus hijos, con el fin de monitorear el contenido de las interacciones y recibir alertas si se detectan signos de inestabilidad emocional en los menores”.

Estas funcionalidades implican diversos mecanismos orientados a mejorar la seguridad durante el uso de ChatGPT por parte de los menores, como la posibilidad de que los progenitores “accedan al historial de conversaciones de sus hijos con el sistema, así como el envío de notificaciones automáticas cuando la inteligencia artificial identifique indicios de un estado emocional que pudiera requerir intervención”.

La empresa ha trabajado en la detección de signos de alarma y posible dependencia emocional de los usuarios respecto a los asistentes basados en IA que podría representar un riesgo para el desarrollo emocional y social de los jóvenes.

M.Pino

Fuente: eltiempo

(Imagen referencial: Levart_Photographer en Unsplash)

Visita nuestro canal de noticias en Google News y síguenos para obtener información precisa, interesante y estar al día con todo. También en X/Twitter e Instagram puedes conocer diariamente nuestros contenidos

La entrada OpenAI implementará controles parentales apareció primero en Bitfinance.