La diputada nacional María Inés Zigarán presentó en el Congreso de la Nación un proyecto para proteger la identidad personal frente a contenidos sintéticos no consentidos. La iniciativa cobra especial relevancia ante el reciente caso de estudiantes de un colegio de Lomas de Zamora cuyos rostros habrían sido utilizados para crear imágenes falsas de desnudez mediante inteligencia artificial.
Buenos Aires.- La situación denunciada recientemente en el Colegio Modelo Lomas, de Lomas de Zamora, donde estudiantes y familias realizaron una protesta luego de que trascendiera que alumnos habrían utilizado inteligencia artificial para modificar fotografías de compañeras, simular desnudez y difundir las imágenes en sitios pornográficos y otras plataformas, vuelve a poner en evidencia los nuevos desafíos que plantea el desarrollo de estas tecnologías.
Según testimonios recogidos por el diario La Nación, las afectadas serían alrededor de 50 alumnas de tercer y cuarto año. El caso expone una problemática que trasciende el uso indebido de una fotografía: la inteligencia artificial permite hoy fabricar imágenes capaces de atribuir a una persona una apariencia, conducta o situación que nunca existió.
La propuesta de la legisladora cobra especial relevancia además, frente al aumento de de los casos y debates vinculados con deepfakes en el 2026, incluida la decisión del Consejo Asesor de Contenido de Meta sobre un video sexualizado generado con IA y la necesidad de reforzar la protección frente a este tipo de contenidos.
Cabe señalar que frente a este escenario, la diputada nacional María Inés Zigarán (UCR – Provincias Unidas) presentó hace tiempo un proyecto de ley para establecer un régimen integral de protección de la identidad personal frente a imitaciones digitales realistas y contenidos sintéticos no consentidos.
Cuando una imagen puede convertirse en una herramienta de violencia
La iniciativa de Zigarán parte de una realidad tecnológica concreta: mediante herramientas de inteligencia artificial es posible recrear con gran nivel de realismo la imagen, voz, rostro, cuerpo, gestos o forma de hablar de una persona.
Estas capacidades pueden utilizarse legítimamente en ámbitos como el arte, el periodismo, la educación, la investigación o la ficción, pero también pueden ser empleadas para generar contenidos íntimos falsos, suplantar identidades, cometer fraudes, ejercer violencia digital o manipular la percepción pública.
El caso conocido en Lomas de Zamora muestra, precisamente, una de las dimensiones más sensibles de este problema: la utilización no consentida de la imagen de adolescentes para producir representaciones sexuales falsas.
El consentimiento como principio central
El proyecto de Zigarán establece que la utilización de los rasgos identificatorios de una persona para generar contenidos sintéticos deberá contar con un consentimiento previo, expreso, informado y específico.
La propuesta deja expresamente establecido que autorizar el uso de una fotografía, grabación, entrevista u otro material personal no implica autorizar su clonación, recreación o explotación mediante inteligencia artificial.
Herramientas para actuar frente a contenidos dañinos
La iniciativa establece obligaciones específicas para las plataformas digitales y mecanismos de respuesta rápida frente a determinados contenidos. Entre ellos se encuentran los contenidos íntimos sintéticos no consentidos, las representaciones sexuales o vejatorias de menores, los fraudes, las suplantaciones de identidad y las falsas instrucciones atribuidas a autoridades públicas cuando exista un riesgo grave e inminente.
También contempla la preservación de evidencia, la revisión humana y mecanismos de contranotificación para aquellos casos en los que exista una controversia sobre la legalidad del contenido.
Por otra parte, el proyecto incorpora además un régimen de transparencia para aquellos contenidos generados o manipulados mediante inteligencia artificial que representen a personas reales o les atribuyan hechos o declaraciones cuando puedan inducir a error sobre su autenticidad.
Al mismo tiempo, establece excepciones destinadas a proteger la libertad de expresión, el periodismo, la crítica política y social, la sátira, la parodia, la caricatura, el arte, la ficción, la educación y la investigación, siempre que no exista una atribución engañosa de autenticidad.
La propuesta también establece expresamente que no crea un deber general de monitoreo ni habilita la censura previa de contenidos.
Una respuesta legislativa frente a una tecnología que ya genera nuevos riesgos
Para Zigarán, los casos que comienzan a conocerse muestran la necesidad de que el marco jurídico pueda responder a una tecnología que avanza más rápidamente que las herramientas tradicionales de protección.
“Ninguna persona debe ser convertida, sin consentimiento, en materia prima de una simulación realista destinada a engañar, explotar, humillar, extorsionar, defraudar o manipular”.
La iniciativa, según precisó la legisladora, busca de este modo incorporar herramientas específicas para proteger la identidad personal frente a los usos no consentidos y dañinos de la inteligencia artificial, especialmente cuando afectan la intimidad, la dignidad y la integridad de las personas.