Los casos de extorsión, principalmente a menores de edad, a través de imágenes falsas de desnudos, continúan aumentando. Es un ejemplo claro del mal uso de la inteligencia artificial.

Cada vez son más los reportes de menores víctimas de chantaje y extorsión basados en la publicación de imágenes de contenido pornográfico que no son reales; han sido generadas con el uso de la IA.

Decenas de estos casos han terminado en tragedia. El FBI ha intervenido, señalando “un aumento espantoso de casos de sextorsión contra menores en Estados Unidos, cuyas víctimas suelen ser chicos de entre 14 y 17 años. Esto ha provocado una cifra alarmante de suicidios”.

Esta actividad ilícita puede generar a los portales que se encargan de distribuir contenido sexual ganancias que superan los $ 36 millones al año, y esto involucra la infraestructura tecnológica de Google, Amazon y Cloudflare.

Los depredadores pueden utilizar métodos conocidos como el hackeo de computadoras y teléfonos celulares, hasta la manipulación remota de las cámaras de dichos dispositivos.

Las amenazas han aumentado no solo en Estados Unidos sino en el resto del mundo, como es el caso de España, Reino Unido y el continente asiático, donde los respectivos gobiernos han aprobado leyes contra este tipo de ilícitos con penas de cárcel para los involucrados.

M.Pino

Fuente: DW

(Imagen referencial: Lesli Whitecotton en Unsplash)

Visita nuestro canal de noticias en Google News y síguenos para obtener información precisa, interesante y estar al día con todo. También en X/Twitter e Instagram puedes conocer diariamente nuestros contenidos

La entrada Aumentan casos de sextorsión con uso de la IA apareció primero en Bitfinance.

La suplantación de la imagen o la voz de una persona en un contenido audiovisual, conocida como deepfake, ha aumentado considerablemente. En 2024 los casos más numerosos tienen como protagonistas a Donald Trump, Elon Musk, Taylor Swift.

Con el avance de la tecnología, particularmente la inteligencia artificial, algunos desarrolladores han llegado al extremo de generar “imágenes falsas, habitualmente simulando la voz y la apariencia de otras personas”.

Los deepfaker ahora inundan la Internet, especialmente a través de las redes sociales, generando contenidos falsos y distorsión entre los usuarios.

Las imágenes que son creadas con herramientas de IA parecen ser reales. En un inicio, solo desarrolladores tenían acceso a estas funcionalidades; sin embargo, actualmente la manipulación de imagen y video está al alcance de cualquier persona mediante programas para “clonación de voz y sincronización de labios de código abierto”.

Desde la plataforma de creación de videos Kapwing señalan que “la clonación de voz toma de ejemplo la voz de una persona a partir de una muestra de audio breve, de entre 10 y 15 segundos”. Analiza la muestra y “aplica las características vocales a un modelo subyacente capaz de generar voz a partir de texto”.

En el caso de la IA para la sincronización de datos, esta tecnología “hace coincidir los labios de las imágenes de la persona que se esté imitando con los sonidos que se producen en el archivo audio”. El proceso para crear un gemelo de IA puede tomar apenas diez segundos de metraje inicial.

Diversas investigaciones abordan los riesgos de los deepfakes en cuanto a “la suplantación de identidad o la difusión de noticias falsas”.

M.Pino

Fuente: revistalternativa

(Imagen referencial: Alex Shuper Para Unsplash+)

Visita nuestro canal de noticias en Google News y síguenos para obtener información precisa, interesante y estar al día con todo. También en Twitter e Instagram puedes conocer diariamente nuestros contenidos

La entrada Donald Trump, Elon Musk y Taylor Swift encabezan lista de deepfakes en 2024 apareció primero en Bitfinance.