El Buró Federal de Investigaciones ( FBI ) advirtió a los estadounidenses que los delincuentes utilizan cada vez más la inteligencia artificial para crear imágenes sexualmente explícitas con el fin de intimidar y extorsionar a las víctimas.
En una alerta que circuló esta semana, el FBI dijo que recientemente había observado un aumento en las víctimas de extorsión que dijeron que habían sido atacadas usando inteligencia artificial a través de versiones manipuladas de imágenes inocentes tomadas de publicaciones en línea, mensajes privados o chats de video.
Las fotos luego son enviadas directamente a las víctimas por actores maliciosos para extorsión o acoso sexual. Una vez que circula, las víctimas pueden enfrentar problemas importantes para evitar el intercambio continuo del contenido manipulado o la eliminación de internet.
El FBI dijo que las imágenes parecían “reales” y que, en algunos casos hubo niños que fueron atacados.
El FBI no entró en detalles sobre los programas que se utilizan para generar imágenes sexuales, pero señaló que los avances tecnológicos “mejoraban continuamente la calidad, la personalización y la accesibilidad de la creación de contenido habilitada por inteligencia artificial (IA)".
La manipulación de imágenes inocuas para crear imágenes sexualmente explícitas es casi tan antigua como la fotografía misma, pero el lanzamiento de herramientas de inteligencia artificial de código abierto ha hecho que el proceso sea más fácil que nunca.
Los resultados a menudo son indistinguibles de las fotografías de la vida real y en los últimos años han surgido varios sitios web y canales de redes sociales que se especializan en la creación e intercambio de imágenes sexuales habilitadas por inteligencia artificial.
Scammers are using AI to create fake pornographic videos of victims and demanding payment from them to not disseminate them, the FBI warns. https://t.co/EhujUK0hd2
— NBC News (@NBCNews) June 7, 2023
¿Cómo avanza la regulación de la inteligencia artificial en el mundo?
Reino Unido acogerá en otoño una cumbre mundial sobre la seguridad de la inteligencia artificial, según anunció el Gobierno británico, que añadió que el primer ministro, Rishi Sunak, y el presidente de Estados Unidos, Joe Biden, también hablarán de esta tecnología en su reunión del jueves.
En la cumbre se estudiarán los riesgos de la IA, también para los sistemas fronterizos, y se debatirá cómo mitigar estos peligros mediante una acción coordinada a nivel internacional, señaló el Gobierno británico.
Varios gobiernos están estudiando cómo mitigar los peligros de esta tecnología emergente, que ha experimentado un auge de inversión y popularidad entre los consumidores en los últimos meses tras la publicación del ChatGPT de OpenAI.
Eso incluye a China, donde el Gobierno está tratando de iniciar regulaciones para la inteligencia artificial, según el multimillonario Elon Musk, que se reunió con funcionarios durante su reciente viaje al país asiático.
Los organismos reguladores de todo el mundo se afanan por elaborar normas que regulen el uso de la inteligencia artificial generativa, capaz de crear textos e imágenes, cuyo impacto sus defensores comparan con la llegada de internet.
Rishi Sunak se encuentra de viaje en Estados Unidos y el jueves se reunirá con Joe Biden en la Casa Blanca.
