Prohibirán las inteligencias artificiales que generen imágenes sexuales falsas
La medida apunta contra montajes creados sin consentimiento mediante IA. Las nuevas restricciones comenzarán a regir desde diciembre de 2026.
La Unión Europea acordó prohibir los servicios de inteligencia artificial capaces de generar imágenes sexuales falsas de personas reales sin consentimiento. La decisión fue adoptada por los Estados miembro y el Parlamento Europeo en medio de crecientes denuncias por montajes y deepfakes difundidos en internet.
La nueva regulación alcanzará a sistemas que permitan crear imágenes, videos o audios de contenido sexual explícito, incluyendo representaciones de menores o personas identificables en situaciones íntimas falsas. La medida forma parte de la actualización de la legislación europea sobre inteligencia artificial conocida como AI Act.
Uno de los casos que aceleró el debate involucró a X y a Grok, la herramienta de inteligencia artificial impulsada por Elon Musk. La plataforma había incorporado funciones que permitían generar imágenes hiperrealistas de adultos y menores desnudos a partir de fotografías reales.
La polémica volvió a crecer esta semana luego de que la primera ministra italiana Giorgia Meloni denunciara públicamente la circulación de imágenes falsas creadas con inteligencia artificial. La dirigente compartió una fotografía manipulada en la que aparecía en ropa interior y advirtió sobre los riesgos de los deepfakes para la sociedad.
"Los deepfakes son una herramienta peligrosa porque pueden engañar, manipular y afectar a cualquiera", escribió Meloni en sus redes sociales. Además, sostuvo que la desinformación y la manipulación digital representan una amenaza creciente para personas comunes y figuras públicas.
La regulación europea entrará en vigencia el 2 de diciembre de 2026 y obligará a las plataformas de inteligencia artificial a incorporar mecanismos de seguridad para impedir la generación de este tipo de contenidos. En paralelo, otros países como Indonesia y Malasia ya suspendieron el acceso a Grok tras las controversias internacionales.