OpenAI refuerza la prevención con herramienta que detecta material de abuso infantil

La prevención es actualmente la prioridad para OpenAI, lo cual evidencia con el endurecimiento de las medidas de seguridad y el lanzamiento de una herramienta para detectar material de abuso sexual infantil real o creado con inteligencia artificial

OpenAI anunció una nueva herramienta gratuita para organizaciones verificadas que permitirá identificar material de abuso sexual infantil, ya sea real o creado con IA.

La medida es parte de los cambios en las políticas de seguridad a fin de “combatir la explotación y el abuso sexual infantil en Internet, especialmente, la creación y difusión de este tipo de contenido generado mediante IA, para interrumpir estas conductas dañinas”.

La herramienta fue definida como un clasificador de imágenes que puede detectar posibles contenidos de abuso sexual infantil, y que estará disponible, de forma gratuita, a través de la API de OpenAI para organizaciones verificadas.

En caso de detectar una imagen sospechosa, la herramienta “asigna una puntuación al contenido para ayudar a los equipos de moderación a priorizar las imágenes que requieren revisión”.

OpenAI también ha endurecido las medidas de protección emitiendo una advertencia cuando se detecta un comportamiento sospechoso en las búsquedas de información vinculada a material de abuso sexual infantil. “Asimismo, los mensajes explicarán las consecuencias de sexualizar a menores, incluso cuando el contenido solicitado sea generado mediante IA”.

M.Pino

Fuente: infobae

(Imagen referencial: Zulfugar Karimov en Unsplash)

¡Sigue nuestras noticias en Google! Para obtener información actual, interesante y precisa. Haz clic aquí y conoce todos los contenidos de Bitfinance.news. Encuéntranos también en X/Twitter e Instagram 

También podría gustarte