I.- Proyecto de Ley Expediente Diputados: 1472-D-2023 (Diputados: Latorre - Manes)

En fecha 17/04/2023 se presentó en la Cámara de Diputados de la Nación un proyecto de ley (2) de modificación de la Ley 25.467 (3) (Sistema Nacional de Ciencia, Tecnología e Innovación), por el cual se busca regular el funcionamiento ético de los sistemas de Inteligencia Artificial (IA).

Sucintamente lo que propone son valores y principios por los cuales deberá regirse la IA:

a) Diversidad e inclusión. El avance de la IA deberá asegurar la participación de todas las personas o grupos, con independencia de su raza, color, ascendencia, género, edad, idioma, religión, opiniones políticas, origen étnico o social, condición económica o cualquier otra forma o condición que pudiera alterar el respeto a la diversidad e inclusión social.

b) Paz y justicia. El progreso de la IA deberá asegurar la paz y la justicia entre naciones y no podrá menoscabar la libertad de los seres humanos, ni reducir su autonomía de decisión. Tampoco podrá poner en riesgo la seguridad individual o colectiva, ni dividir o enfrentar a las personas y los grupos, o amenazar la coexistencia entre los seres humanos, los demás seres vivos y el medio ambiente.

Además, ordena a la Autoridad de Aplicación detener los avances de la investigación, desarrollo o aplicación cuando considere que se vulneran los principios y valores éticos dispuestos (3). Requiriéndose la demostración, en forma fehaciente, del perjuicio o amenaza que representa para el individuo, comunidad o para todo el país.

II.- Consideraciones:

Como se puede observar el proyecto de ley en análisis, ha tomado la postura de incluir la legislación de la IA dentro de una estructura y norma preexistente como es la Ley 25.467 (4), a diferencia del antecedente expediente 0509-D-2019 (5) el cual buscaba crear el Consejo Federal de Inteligencia Artificial con la misión de fomentar el estudio, concientización, investigación y difusión de temáticas relacionadas a la Inteligencia Artificial y afines.

En ese sentido, en este momento (mientras se debe trabajar en una regulación específica), creo más acertada la idea del proyecto 1472-D-2023 de actualizar una ley vigente, con estructuras creadas (6) y con presupuesto, antes que la creación de un nuevo Consejo. Sobre todo, porque la estructura plasmada en la Ley 25.467, ya prevé la participación acorde al sistema federal mediante el Consejo Federal de Ciencia, Tecnología e Innovación (COFECYT) (7) integrado por los funcionarios de máximo nivel en el área de los gobiernos provinciales y de la Ciudad Autónoma de Buenos Aires que estén adheridos a dicha ley, con proyectos de financiamiento vigentes (8), lo que garantiza un consenso en la política de tratamiento de la IA dentro del país.

Ahora bien, sin lugar a dudas, lo medular y más importante del proyecto 1472-D-2023, es la normativización por ley formal de: “…detener los avances de la investigación, desarrollo o aplicación de la IA cuando considere que se vulneran los principios y valores…” (9).

Véase que dicho proyecto incorpora estas facultades al Gabinete Científico y Tecnológico (GACTEC), perteneciente al ámbito de la Jefatura de Gabinete de Ministros, presidido por el jefe de Gabinete de Ministros e integrado por todos los ministros y por todos los secretarios de Estado que dependan directamente de la Presidencia, con la “asistencia”

del Consejo Federal, siendo su “brazo ejecutor” la Secretaría para la Tecnología, la Ciencia y la Innovación Productiva (SETCIP), quien además es la prevista para la recepción de las denuncias frente a amenazas o perjuicios por sistema/s de IA.

Es decir que se proyecta que el Poder Ejecutivo Nacional- Jefatura de Gabinete de Ministros, tenga el rol de control y detención sobre proyectos de IA “cuando considere”, creo que allí la discrecionalidad es demasiado amplia, si bien es cierto que por reglamentación ello puede ser acotado, entiendo que sería mejor que el Poder Legislativo ya prevea ciertas pautas y límites para el ejercicio de dicha facultad por parte del P.E.N.

También se incorpora a los fines del GACTEC la formación de un registro, debiéndose registrar en cualquier instancia del ciclo de vida el sistema de IA, para el ejercicio del Tecnología (CICYT) y la Comisión Asesora para el Plan Nacional de Ciencia, Tecnología e Innovación.” (art. 8 Ley 25.467) control; me parece positivo que el registro sea nacional en razón de la necesidad, sobre todo en el ámbito tecnológico, de unificación y homogeneidad, pero es un punto a analizar cómo se armoniza ello con las competencias propias (no delegadas) y concurrentes que surgen de las autonomías provinciales y municipales, especialmente en el caso de no adhesión a la Ley 25.467, siendo que el Consejo Federal solo “asiste” al GACTEC.

El proyecto expresa que deberá establecerse “instancias de apelación” frente a las decisiones de control y detención/suspensión, legitimando a investigadores, tecnólogos, programadores o cualquier persona, empresa u organización que se encuentre realizando avances con IA.

Conforme la técnica legislativa utilizada, y su incorporación dentro del art. 8 bis (que trata al GACTEC), luce como la interpretación más adecuada entender, a pesar de la utilización de la palabra “apelación”, que se busca garantizar un procedimiento administrativo respetuoso de los derechos y garantías del administrado/ciudadano, pudiéndose adelantar que ante la ausencia de un procedimiento administrativo específico para el caso debe aplicarse la Ley de Procedimiento Administrativo núm. 19.549, por ello siendo más adecuado cambiar las palabras “instancias de apelación” por “instancias recursivas”.

Pero más allá de todo lo analizado, sin lugar a dudas, la gran incógnita del proyecto radica en la falta de definición o ausencia de parámetros para circunscribir qué es un sistema de Inteligencia Artificial, cuestión de suma importancia, ya que si bien cristalizar un concepto tal vez no sea la mejor forma sobre todo por el permanente avance de la tecnología, entiendo que se pudo haber expresado ciertos límites para diferenciar los sistemas informáticos que serán sujeto de control y suspensión, y cuales no. ¿Cuál es el límite o el grado de afectación de derechos requerido? ¿Son los sistemas de aprendizaje automático?

En los fundamentos del proyecto se expresa: “El concepto de una máquina capaz de procesar información y tomar decisiones por sí misma se remonta a los años 50, cuando los científicos empezaron a trabajar en la idea de crear 'máquinas de pensamiento' que pudieran imitar la inteligencia humana… el concepto de 'redes neuronales' comenzó a surgir en la década de 1960 como una forma de modelar la actividad del cerebro humano en una computadora, lo que permitió a los científicos desarrollar modelos de aprendizaje automático y reconocimiento de patrones… en la década de los 2000, la IA volvió a tomar impulso, con el desarrollo de nuevas técnicas de aprendizaje profundo y el aumento de la capacidad de procesamiento de las computadoras.” (10)

No queda claro el objeto a regular, entiendo que lograr una definición tecnológicamente neutral frente al paso del tiempo es vital para garantizar la eficacia de la norma, siendo un muy buen ejemplo a imitar la definición y clasificación por riesgo de los sistemas informáticos de IA establecido por la Unión Europea (11).

Destaco la iniciativa, en el sentido de que el Estado argentino y por sobre todo el Poder Legislativo, deben abandonar la postura pasiva y pasar a garantizar el respeto de los derechos de los ciudadanos frente a tecnologías como la IA que suponen un paradigma para nuestro Estado de Derecho, de la misma forma, entiendo muy positivo que no solo se proponga principios y valores éticos (los que me parecen necesarios), avanzándose con normas menos “soft law”, que doten de herramientas concretas de registro, control y detención, ante el avance tecnológico desmedido con afectación social negativa. Pero la falta de definición y delimitación de los sistemas de IA “peligrosos” pueden romper el delicado equilibrio entre la justa regulación y un abuso arbitrario, que puede desalentar la inversión y el desarrollo de IA en nuestro país.

También te puede interesar:

(1) https://www4.hcdn.gob.ar/dependencias/dsecretaria/Periodo2023/PDF2023/TP2023/1472-D 2023.pdf

(2) https://www.conicet.gov.ar/wp-content/uploads/Ley-25.467-CIENCIA-TECNOLOGIA-E INNOVACION1.pdf

(3) Además de los incorporados por el art. 3 bis, también los establecidos en el art. 3: “ARTICULO 3° — Se establecen los siguientes principios de carácter irrenunciable y aplicación universal, que regirán en cualquier actividad de investigación en ciencia, tecnología e innovación: a) El respeto por la dignidad de la persona humana; b) El respeto por la privacidad e intimidad de los sujetos de investigación y la confidencialidad de los datos obtenidos; c) La participación libre y voluntaria de las personas en ensayos de investigación; d) La obligatoriedad de utilizar procesos de consentimiento informado en forma previa al reclutamiento de sujetos de investigación; e) La obligación de realizar ensayos preclínicos y con animales en forma previa a la experimentación con humanos, a fin de determinar adecuadamente la relación costo beneficio, la seguridad y la eficacia; f) La protección de grupos vulnerables; g) El cuidado y protección del medio ambiente y la biodiversidad de todas las especies; h) El cuidado y protección del bienestar de las generaciones futuras; i) La no discriminación de personas en razón de su condición física, salud, historial y datos genéticos; j) La no comercialización del cuerpo humano o de sus partes o información genética de cualquier tipo.

(4) Sancionada en 2001.

(5) https://www.hcdn.gob.ar/proyectos/textoCompleto.jsp?exp=0509-D-2019&tipo=LEY , (fecha 12/03/2019).

(6) “…Gabinete Científico y Tecnológico (GACTEC), en el ámbito de la Jefatura de Gabinete de Ministros. Será presidido por el jefe de Gabinete de Ministros y estará integrado por todos los ministros y por todos los secretarios de Estado que dependan directamente de la Presidencia y que tengan actividades que se vinculan con la ciencia y tecnología. El Gabinete Científico y Tecnológico, con la asistencia del Consejo Federal de Ciencia, Tecnología e Innovación (COFECYT), del Consejo Interinstitucional de Ciencia y

(7) https://www.argentina.gob.ar/ciencia/cofecyt

(8) https://www.argentina.gob.ar/ciencia/cofecyt/financiamiento

(9) Resaltado propio.

(10) Resaltado me pertenece.

(11) Ver: https://eur-lex.europa.eu/legal-content/ES/TXT/?uri=celex%3A52021PC0206

El desafío de legislar la inteligencia artificial en Argentina