La inteligencia artificial (IA) se convirtió en una herramienta útil para todos los que navegan por las redes, pero también se ha vuelto un arma de doble filo al ser la principal creadora de imágenes falsas  o ‘deepfakes’ de contenido explícito.

Debido al vasto universo en línea que existe en la actualidad, es prácticamente imposible parar la difusión de ‘deepfakes’ explícitas, afectando a las víctimas, quienes en varios casos resultan ser mujeres y menores de edad.

El problema ocasionó que a nivel mundial, se protegiera a las personas afectadas por las acciones de otros que sólo buscan perjudicarlas, por razones incomprensibles.

Un terrible avance tecnológico

La investigadora independiente Genevieve Oh, realizó un análisis de las imágenes de contenido explícito creadas por la IA, el cual señala que este año fueron creados más de 143 mil videos manipulados que se subieron en línea.

Víctimas en Estados Unidos

Una mujer relató que su hija de 14 años y varias de sus amigas, fueron víctimas de alguien que utilizó la inteligencia artificial para crear ‘deepfakes’ explícitas, de cada una.

Lo peor del caso, es que el contenido de las jóvenes fue difundido en una secundaria de Nueva Jersey.

No se sabe si dicha institución es la misma donde estudian las jóvenes.

En Seattle, Washington, las autoridades siguen investigando el caso de un adolescente que se presume generó y distribuyó ‘deepfakes’ explícitas, usando imágenes de jóvenes alumnas de una escuela secundaria del estado.

“Luchamos por nuestros hijos. No son republicanos y no son demócratas. No les importa. Sólo quieren ser queridos y quieren estar protegidos”, manifestó Dorota Mani, madre de una joven que resultó víctima de ‘deepfakes’ explícitas creadas por la IA.

Estados Unidos contra las ‘deepfakes’ explícitas

El gobierno de Joe Biden recalcó su lucha para castigar a cualquiera que cree y/o distribuya este tipo de contenido, que atenta contra la integridad de un individuo.

A principios del año en curso, la Oficina Federal de Investigación (FBI, por sus siglas en inglés) recalcó que continuaban recibiendo informes de menores y mayores de edad, que resultaron afectadas, luego de que sus fotografías o videos se usaran para crear ‘deepfakes’ explícitas y distribuirlas en línea.

En 2023, los estados de Texas, Minnesota y Nueva York, se unieron a Virginia, Georgia y Hawái, al establecer una ley que penaliza la pornografía no consensuada.

Nueva Jersey, todavía se encuentra formando una legislación que les permita prohibir las ‘deepfakes’ explícitas, así como castigar a los creadores y distribuidores de las mismas, a través de multas o una sentencia en prisión.

Con información de AP