La Cámara de Diputados recibió un proyecto de ley que propone modificar el Código Civil y Comercial, el Código Penal y la Ley 26.485 de Protección Integral para Prevenir, Sancionar y Erradicar la Violencia contra las Mujeres para incorporar expresamente situaciones derivadas del uso de inteligencia artificial (IA), especialmente aquellas capaces de generar imágenes, audios y videos sintéticos con alto nivel de realismo.

La iniciativa, presentada por la diputada nacional Pamela Verasay junto a otros legisladores, fue girada a las comisiones de Legislación General y Legislación Penal.

Cambios en el derecho a la imagen y la voz

Uno de los principales cambios alcanza al artículo 53 del Código Civil y Comercial, que actualmente establece la necesidad de contar con consentimiento para captar o reproducir la imagen de una persona.

La iniciativa propone ampliar esa protección para incluir también la voz y las recreaciones sintéticas realizadas mediante inteligencia artificial. De aprobarse, la reproducción, modificación o creación artificial de imágenes o voces requeriría autorización de la persona involucrada.

El proyecto mantiene las excepciones actuales para actos públicos, fines científicos, culturales o educativos y el derecho a informar sobre hechos de interés general, siempre que la imagen o la voz originales no hayan sido alteradas.

El proyecto no busca establecer un marco regulatorio integral para la inteligencia artificial. En cambio, propone actualizar normas ya vigentes para contemplar conductas que hoy pueden ejecutarse mediante sistemas capaces de generar o modificar imágenes, voces, audios, videos y documentos sintéticos con un alto grado de realismo.

Agravantes para delitos cometidos mediante IA

Las principales modificaciones se concentran en el Código Penal. El proyecto incorpora una pena adicional de tres meses a un año de prisión para el delito de injurias cuando sea cometido mediante sistemas de inteligencia artificial.

También prevé una agravante de seis meses a dos años de prisión cuando la IA sea utilizada para alterar la imagen, la voz u otros atributos de la personalidad y esa manipulación provoque un perjuicio para la víctima.

Además, establece como criterio general que determinadas figuras penales puedan aumentar sus escalas cuando la inteligencia artificial haya sido utilizada como herramienta para facilitar la comisión del delito.

Deepfakes, fraudes digitales y suplantación de identidad

Entre los fundamentos de la iniciativa se menciona el crecimiento de los denominados deepfakes, contenidos generados o modificados mediante inteligencia artificial que permiten recrear con gran precisión el rostro o la voz de una persona.

Aunque el término no aparece en el articulado, el proyecto incorpora referencias expresas a imágenes, voces y otros contenidos sintéticos producidos mediante IA. Los autores sostienen que estas herramientas pueden utilizarse para falsificar identidades, alterar registros audiovisuales, crear documentos apócrifos o inducir a error a terceros mediante contenidos difíciles de distinguir de los originales.

En ese marco, la propuesta incorpora un nuevo supuesto dentro de los casos especiales de defraudación previstos por el Código Penal.

La figura comprende los engaños realizados mediante inteligencia artificial cuando se simulen o alteren atributos personales, imágenes o documentos con el propósito de obtener un beneficio patrimonial induciendo a error a otra persona.

Material de abuso sexual infantil

Otra de las modificaciones alcanza al artículo 128 del Código Penal, que regula los delitos vinculados con material de abuso sexual infantil.

El proyecto incorpora expresamente las representaciones creadas o manipuladas mediante inteligencia artificial, incluyendo imágenes, dibujos, videos, animaciones y otras recreaciones sintéticas de menores de edad.

Comprende tanto los contenidos elaborados a partir de personas reales como aquellos completamente ficticios generados mediante herramientas digitales, de modo que las conductas ya sancionadas por la legislación vigente también alcancen el material producido mediante inteligencia artificial.

Violencia digital contra las mujeres

La iniciativa también modifica distintos artículos de la Ley 26.485 para incorporar expresamente el uso de inteligencia artificial dentro del concepto de violencia digital.

Entre las conductas comprendidas incluye la creación y difusión de imágenes íntimas falsas, videos o audios sintéticos atribuidos a una mujer sin su consentimiento, además de otras formas de acoso, amenazas, espionaje digital y difusión no autorizada de datos personales.

Asimismo, faculta a los jueces a ordenar la eliminación de contenidos publicados en plataformas digitales y redes sociales cuando constituyan violencia digital y a disponer la preservación de evidencia informática para su utilización en investigaciones judiciales.

Alfabetización digital y fundamentos

El proyecto incorpora programas de alfabetización digital y de formación sobre buenas prácticas en el uso de tecnologías e inteligencia artificial dentro de las acciones previstas por la Ley 26.485.

La propuesta busca promover herramientas para identificar situaciones de violencia digital, fortalecer la prevención y fomentar un uso responsable de estas tecnologías en ámbitos educativos y de formación docente.

Fundamentos

Según los fundamentos, el desarrollo de estas herramientas abrió nuevos desafíos para la protección de derechos como la identidad, la intimidad, el patrimonio, la propiedad intelectual y la libertad de decisión de las personas, al facilitar nuevas modalidades de fraude, suplantación de identidad y manipulación de contenidos.

Los autores sostienen que el problema no radica en la inteligencia artificial como tecnología, sino en su utilización con fines ilícitos.

También señalan que distintos organismos internacionales recomiendan adaptar los marcos regulatorios para responder a las nuevas afectaciones de derechos y preservar al mismo tiempo el desarrollo de la innovación tecnológica.

Cambios en el derecho a la imagen y la voz

Agravantes para delitos cometidos mediante IA

Deepfakes, fraudes digitales y suplantación de identidad

Material de abuso sexual infantil

Violencia digital contra las mujeres

Alfabetización digital y fundamentos

Fundamentos

Accedé desde acá al texto del proyecto

Para seguir leyendo:

El Congreso retoma su actividad: la agenda del segundo semestre

Humanizar las transiciones es el verdadero éxito empresarial

Presentan proyecto para adaptar el Código Penal y el Código Civil al avance de la inteligencia artificial