La Cámara de Apelaciones en lo Civil y Comercial de Rosario (Sala II) dictó un fallo en la causa “Giacomino c/ Monserrat s/ daños y perjuicios” que marca un importante precedente respecto de la responsabilidad de los abogados en el uso de herramientas de inteligencia artificial generativa.

En el caso, el letrado de la parte actora incorporó en un escrito citas jurisprudenciales inexistentes.

El tribunal advirtió que, pese a haberse realizado una búsqueda exhaustiva, dichas referencias no pudieron ser halladas y dictó una medida para mejor proveer solicitando al letrado que identifique la fuente de tales citas.

Al contestar el requerimiento, el letrado aclaró que utilizó un sistema de inteligencia artificial y que volcó el resultado encontrado de buena fe, dejando en claro que las citas mencionadas no fueron chequeadas.

Responsabilidad profesional

Tal actitud, aún de buena fe, compromete la responsabilidad profesional del letrado no sólo ante el tribunal sino, especialmente, respecto de su cliente -existiera o no consentimiento informado que autorice el uso de chatbots con inteligencia artificial generativa-, pues no puede haber consentimiento válido alguno que releve a un letrado de su deber de cotejar las fuentes en las que basa sus posiciones jurídicas.

En este sentido, el Tribunal recuerda que entre las “Normas de Ética Profesional del Abogado”, la segunda regla es la de “probidad”, que “no importa tan sólo corrección desde el punto de vista pecuniario: requiere además lealtad personal, veracidad, buena fe.

Señala además que la delegación irreflexiva en estas herramientas vulnera el deber de diligencia y el principio de probidad que rigen la ética profesional. El letrado tiene el deber de cotejar celosamente las fuentes que proporciona al tribunal, máxime si recurrió a un sistema de inteligencia artificial generativa, herramienta experimental aún en desarrollo.

Y subraya que “es ampliamente conocida la circunstancia de que, por esa misma razón, los resultados que ofrecen, en pos de satisfacer los requerimientos del consultante, incluyen aún y en muchos casos las denominadas “alucinaciones” y por ello, como ocurrió en el caso, aparecen fuentes lisa y llanamente inventadas”.

Para finalizar concluye que “mientras los sistemas no se desarrollen al punto de no alucinar, es sumamente riesgoso y hasta temerario delegar la labor de búsqueda de jurisprudencia de soporte y luego volcarla sin cotejar la fuente, como aquí ocurrió”.

Poder disciplinario

El fallo incluyó un llamado de atención al letrado de la parte actora por haber citado jurisprudencia inexistente generada por inteligencia artificial, sin verificar su autenticidad, comprometiendo su responsabilidad profesional.

Y ordenó oficiar al Colegio de Abogados de Rosario para que tome conocimiento de la situación y promueva medidas preventivas sobre el uso responsable de herramientas de IA en el ámbito jurídico.

IA en escritos judiciales: responsabilidad profesional del abogado