Uso seguro y responsable de la IA en tareas legales

Un modelo de lenguaje no distingue con seguridad entre lo que le pide el usuario y lo que dice el documento que está leyendo. Si el documento contiene una frase con forma de instrucción, el modelo puede obedecerla. Eso es una inyección de prompts, y es el riesgo que OWASP ubica primero en su lista de vulnerabilidades de aplicaciones con IA.

En el trabajo jurídico importa por una razón simple: casi todo lo que un abogado le da a leer a la IA lo escribió otro. El escrito de la contraparte, el contrato que mandó el otro estudio, la pericia, el mail de un proveedor, el fallo descargado de un sitio. Y la instrucción puede estar oculta: texto blanco sobre fondo blanco, letra de un punto, metadatos o capas del PDF que una persona no ve y la máquina sí lee.

Ya pasó en tribunales

En 2026 se conocieron los primeros casos. En un tribunal laboral de Brasil, dos abogadas ocultaron en un escrito una orden dirigida a las herramientas de IA del juzgado para que la petición fuera contestada de manera superficial; fueron multadas. En Connecticut, un litigante insertó instrucciones en letra blanca diminuta para que la IA fallara a su favor, y el juez le restringió la presentación electrónica. Las dos historias están documentadas en las fuentes de esta sección.

Hasta ahora los casos conocidos apuntan al tribunal. El mismo mecanismo funciona contra el estudio que usa IA para resumir lo que le manda la otra parte.

Qué puede hacer un estudio

• Tratar como no confiable todo documento que no escribió el estudio. La pregunta no es si la contraparte lo haría, sino qué pasaría si lo hiciera.
• Mirar lo que leyó la máquina, no lo que se ve. Extraer el texto del PDF y revisarlo muestra lo que estaba oculto. También se le puede pedir a la IA, antes de la tarea, que señale cualquier instrucción que encuentre dentro del documento.
• Que la IA proponga y una persona decida. El daño aparece cuando el resultado se ejecuta sin control: una orden de pago, un mail enviado, un plazo que se da por inexistente.
• No reunir los tres ingredientes. Acceso a información privada, lectura de contenido ajeno y capacidad de comunicarse hacia afuera: una herramienta que tiene los tres a la vez es la que puede filtrar datos por orden de un tercero.
• Desconfiar de la conclusión cómoda. Si la IA dice que no hay nada que objetar en el documento de la otra parte, esa es justamente la respuesta que hay que verificar.

Los filtros automáticos ayudan, pero ninguno alcanza: los que bloquean más ataques también degradan las respuestas normales, y casi todos ceden ante un atacante que se adapta.

Un modelo de lenguaje no consulta una base de fallos: genera el texto más probable. Cuando se le pide jurisprudencia de memoria, produce carátulas, tribunales y fechas con la forma exacta de una cita real. Investigadores de Stanford midieron que los modelos generales se equivocan en entre el 58 % y el 88 % de las consultas jurídicas verificables, y que rara vez advierten que están inventando.

Las herramientas jurídicas comerciales que buscan en bases reales antes de responder reducen el problema sin eliminarlo: el mismo grupo encontró errores en entre el 17 % y el 33 % de las respuestas de los productos que evaluó, vendidos como libres de alucinaciones.

Lo que resolvieron los tribunales argentinos

Desde 2025, cámaras y juzgados de al menos ocho provincias y de la Ciudad de Buenos Aires se pronunciaron sobre escritos con jurisprudencia inexistente. Las consecuencias fueron de menor a mayor: llamados de atención, recursos declarados desiertos o inadmisibles, pérdida de honorarios, multa y remisión al tribunal de ética o de disciplina del colegio respectivo. En todos el criterio es el mismo: quien firma responde por lo que cita, haya usado o no una herramienta.

Un falso positivo es algo que la herramienta afirma y no es cierto. Un falso negativo es algo cierto que la herramienta no encontró. La cita inventada se corrige verificando; la omisión no, porque no hay nada en la página que verificar. Por eso importa tanto con qué se busca: investigaciones recientes muestran que buena parte de lo que se llama alucinación es, en rigor, una falla de recuperación. El sistema no encontró el documento correcto y el modelo completó el hueco.

El control automático tampoco es infalible en sentido inverso. Un estudio de 2026 mostró que un verificador apoyado en una base incompleta marcaba como falsas citas que eran reales, y otro que el mejor detector disponible encuentra la mayoría de los errores a costa de muchas falsas alarmas. La verificación sigue siendo trabajo de un abogado.

Qué puede hacer un estudio

• Verificar cada cita en tres pasos: que el fallo exista, que diga lo que se le atribuye y que el criterio siga vigente.
• Separar la búsqueda de la redacción. Primero se reúnen los precedentes en una fuente donde cada resultado es un documento real; después se le pide a la IA que trabaje sobre ese material y nada más.
• No pedirle jurisprudencia de memoria a un modelo general. Es la práctica que está detrás de casi todos los casos sancionados.
• Controlar también lo que falta. Buscar de más de una manera, y buscar en especial lo que sostendría la contraparte.
• Dejar la regla por escrito. Si la verificación depende del criterio de cada uno, tarde o temprano alguien la saltea.

Pegar un contrato en un chat es enviarlo a un tercero. Qué hace ese tercero con el documento depende del plan contratado: si lo conserva y por cuánto tiempo, si lo usa para entrenar sus modelos, quién puede acceder y en qué país se procesa. En una cuenta gratuita o personal, esas condiciones las fija el proveedor y el estudio no firmó nada. En una cuenta corporativa suelen quedar establecidas por contrato.

El marco es el de siempre. El secreto profesional no distingue herramientas, y la Ley 25.326 exige medidas de seguridad sobre los datos personales (art. 9), impone deber de confidencialidad a quienes los tratan (art. 10) y restringe su transferencia a países sin protección adecuada (art. 12).

Lo que dicen los colegios y los tribunales

La guía del Colegio Público de la Abogacía de la Capital Federal lo resume en una frase: «La IA no exime de responsabilidad, el abogado sigue siendo el responsable último del contenido que presenta o firma». Recomienda no cargar información sensible en plataformas sin garantías, anonimizar y pedir autorización al cliente cuando corresponda.

Los poderes judiciales van en la misma línea. Río Negro, San Juan, La Pampa, San Luis y Jujuy tienen protocolos que exigen anonimizar y validar, y la Suprema Corte bonaerense puso en consulta pública en 2026 su propio reglamento. Afuera, la American Bar Association pide consentimiento informado del cliente antes de ingresar información confidencial en estas herramientas, y la guía de los colegios europeos pone la confidencialidad primera entre los deberes involucrados.

El problema real suele ser el que no se ve

En la mayoría de los estudios, el riesgo no está en la herramienta que eligieron los socios sino en las que usa el equipo por su cuenta: la cuenta personal de un asociado, la extensión del navegador que resume, el celular. Nadie decidió que esos documentos salieran; salieron porque no había una alternativa provista ni una regla.

Qué puede hacer un estudio

• Relevar el uso real. Qué herramientas se usan, con qué cuentas y para qué tareas. Sin ese dato, cualquier política se escribe a ciegas.
• Proveer cuentas del estudio. Es más barato que el riesgo, y es lo único que hace cumplible una prohibición de usar cuentas personales.
• Clasificar la información. Qué puede cargarse tal cual, qué solo anonimizado y qué no sale del estudio en ningún caso.
• Leer las condiciones antes de contratar. Retención, entrenamiento, lugar de procesamiento y accesos del proveedor.
• Decidir qué se le dice al cliente y, si hace falta, llevarlo a la carta de encargo.

Los tres riesgos tienen algo en común: ninguno se produce por mala fe. Se producen porque alguien usó una herramienta que no entiende del todo, en una tarea para la que no fue pensada, sin que nadie le hubiera mostrado cómo falla. El abogado que citó un fallo inexistente creía estar buscando jurisprudencia. El que subió el contrato a su cuenta personal creía estar ganando tiempo.

Las consecuencias, en cambio, son las de siempre: un recurso desierto, honorarios perdidos, un sumario disciplinario, un cliente que se entera por la sentencia. Lo que está en juego es la reputación del estudio y, en el extremo, la responsabilidad profesional de quien firma.

Una política escrita ayuda, pero no reemplaza haber visto el error con los propios ojos. Por eso el uso seguro es uno de los pilares de nuestras capacitaciones y consultorías: se aprende haciendo, con documentos como los que el estudio maneja todos los días, hasta que verificar y desconfiar se vuelven parte del oficio.

Si querés saber dónde está parado tu estudio, el diagnóstico lleva ocho minutos. Si preferís conversarlo, en Nosotros está quién hizo esta guía y cómo trabajamos.