Alucinaciones de IA en el Trabajo Jurídico: Por Qué Pasan y Cómo Verificarlas
La IA inventa fallos, artículos y datos con total seguridad. Por qué ocurre, las cuatro formas en que aparece en un escrito y el protocolo de verificación que evita que llegue al juzgado.
VeredictaSimplificá la gestión de tus expedientes, consultá el PJN sin caídas y encontrá jurisprudencia con inteligencia artificial.
Es la objeción número uno, y es una buena objeción. Un abogado le pide a una inteligencia artificial que fundamente una postura, recibe tres citas de jurisprudencia con tribunal, fecha y carátula perfectamente formateadas, va a buscarlas y no existe ninguna. El modelo no dudó, no avisó, no puso un condicional. Escribió con la misma seguridad que usa cuando tiene razón.
A eso se le dice alucinación, y entender por qué ocurre es lo que separa a quien usa IA con red de seguridad de quien la usa cruzando los dedos. Esta guía explica el mecanismo, describe las cuatro formas concretas en que una alucinación se cuela en trabajo jurídico argentino, y desarrolla el protocolo de verificación que conviene aplicar antes de que un párrafo generado con IA llegue a un escrito firmado.
Qué es una alucinación y por qué el modelo no se da cuenta
Un modelo de lenguaje no consulta una base de datos cuando le preguntás algo. Genera texto prediciendo, palabra por palabra, qué continuación es más plausible dado todo lo anterior. Es un mecanismo extraordinariamente bueno para producir lenguaje bien formado, y es completamente indiferente a si lo que produce es cierto.
Cuando el modelo vio durante su entrenamiento millones de citas jurídicas, lo que aprendió no fue el catálogo de fallos: aprendió la forma de una cita jurídica. Aprendió que después de un nombre de tribunal viene una sala, después una carátula entre comillas, después una fecha con formato de expediente. Si le pedís una cita que respalde una idea y no tiene una real disponible, el mecanismo no se detiene: produce la continuación más plausible, que es una cita perfectamente formateada e inexistente.
Por eso las alucinaciones jurídicas son especialmente peligrosas. En otros dominios una invención suena rara. En derecho suena exactamente igual que la verdad, porque el formato de una cita es tan regular que imitarlo es trivial.
Y hay un agravante: el modelo no tiene una señal interna que le diga "esto lo sé" contra "esto lo estoy completando". La confianza con la que escribe una cita real y una inventada es la misma. No podés detectar el problema leyendo el tono.
Las cuatro formas en que aparece en trabajo jurídico
En la práctica de un estudio argentino, las alucinaciones no llegan siempre con la misma cara. Distinguirlas ayuda porque cada una se verifica distinto.
La cita que no existe
La clásica. Un fallo con tribunal, sala, carátula y fecha que no aparece en ningún repositorio. Se detecta buscando la carátula en una fuente oficial. Si no está, no existe.
La cita real, mal atribuida
Más traicionera que la anterior porque sobrevive a la primera verificación. El fallo existe, la carátula es correcta, pero la doctrina que el modelo le atribuye no es la que ese fallo sostiene, o es la de la disidencia, o corresponde a otra instancia. Se detecta solamente leyendo el fallo.
La norma inexistente, derogada o mal numerada
Un artículo que no dice lo que el modelo afirma, una ley con el número cambiado, una reforma que se aplicó al artículo equivocado. Es especialmente frecuente cuando se mezclan códigos procesales de distintas jurisdicciones, algo que en Argentina pasa todo el tiempo: el modelo confunde el ordenamiento nacional con el de una provincia y responde con una regla que no rige donde vos litigás.
El dato del expediente que nunca estuvo ahí
La menos comentada y la más peligrosa en el día a día. Le pedís a la IA que resuma un expediente y en el resumen aparece un monto, una fecha de notificación o el nombre de un perito que no figuran en ningún documento. No inventó una fuente externa: inventó un dato de tu propia causa. Si armás la estrategia sobre ese resumen, el error se propaga a todo lo que venga después.
Lo que cambia cuando la IA trabaja sobre tus propios documentos
Acá está el punto que casi nunca se explica bien. Una IA que responde de memoria y una IA que responde leyendo un documento que vos le diste no corren el mismo riesgo, aunque el modelo de fondo sea el mismo.
Cuando la respuesta se construye a partir de documentos concretos, el modelo deja de completar y pasa a extraer. El espacio para inventar se achica porque la respuesta tiene que salir de un texto que está ahí. No desaparece: un modelo puede seguir malinterpretando un párrafo o mezclando dos documentos. Pero cambia radicalmente lo que vos podés hacer al respecto, porque ahora hay algo contra lo cual chequear.
La diferencia práctica es la cita verificable. En Veredicta, cada celda del análisis de documentos devuelve cuatro cosas: el veredicto, un nivel de confianza de 0 a 100, el razonamiento y citas textuales ancladas a la página del PDF o al bloque del DOCX. Podés abrir la cita y ver el pasaje exacto. Si la cita no sostiene el veredicto, lo ves en dos segundos y sin salir de la pantalla.
El asistente funciona con la misma lógica: responde sobre los datos reales del estudio (causas, audiencias, partes, tareas, pruebas, movimientos judiciales) y cada respuesta trae citas clicables hasta el documento y la página de donde salió el dato. Una respuesta sin citas es, en sí misma, una señal.
Eso no convierte la verificación en opcional. La convierte en posible en segundos en lugar de en una tarde de trabajo. Y esa es toda la diferencia entre un control que se hace y un control que se saltea.
El protocolo de verificación
Cinco pasos, en este orden, antes de que un párrafo generado con IA quede en un escrito con tu firma.
- Separá lo verificable de lo argumental. Marcá en el borrador cada cita de jurisprudencia, cada artículo, cada fecha, cada monto y cada nombre propio. Eso es lo que hay que chequear. El resto es redacción y se corrige leyendo.
- Abrí la cita, no la busques de nuevo. Si la herramienta ancla la respuesta a una página, andá a esa página. Si te obliga a salir a buscar la fuente por tu cuenta, esa fricción es exactamente donde se saltean los controles.
- Leé el fallo, no el sumario. Verificar que un fallo exista no verifica que diga lo que la IA afirma. Para la cita real mal atribuida, el único control que funciona es leer el pasaje.
- Chequeá la jurisdicción. Antes de dar por buena una regla procesal, confirmá que corresponde al ordenamiento donde tramita tu causa. Es el error más silencioso de todos, porque el artículo existe y dice lo que la IA dice, solo que en otra provincia.
- Si no lo podés verificar, no va. No hay término medio. Un fundamento que no pudiste confirmar es un pasivo, no un activo.
Un caso aparte: los sumarios de jurisprudencia
Conviene ser preciso con qué hace la IA en el buscador de jurisprudencia de Veredicta, porque el mercado usa la palabra "IA" para cosas muy distintas.
La búsqueda no es semántica ni vectorial: es búsqueda de texto completo sobre fallos y sumarios, con filtros por tribunal, provincia, materia y fuente. Es decir, lo que aparece en tus resultados sale de tu búsqueda y de tus filtros, no de un modelo decidiendo qué te conviene ver. Un buscador de texto completo no puede devolverte un fallo que no está indexado, así que la vía de entrada de un fallo inexistente simplemente no existe.
Donde sí interviene la IA es en la generación del sumario a partir del texto completo del fallo. El sumario condensa la doctrina aplicada para que descartes rápido, y como cualquier resumen puede recortar un matiz. Por eso el fallo completo está siempre a un click: el sumario es para filtrar, el fallo es para citar. La fuente de los fallos es SAIJ.
Si trabajás mucho con precedentes, te va a servir la guía sobre cómo buscar jurisprudencia argentina online.
La responsabilidad no se delega
Las directrices sobre inteligencia artificial del Colegio Público de Abogados de la Capital Federal son claras en este punto: la verificación de todo lo que genere la IA es obligatoria y el responsable final del trabajo es siempre el abogado. La IA no es un escudo ante la mala praxis.
Vale la pena traducirlo a términos operativos. Nadie firmaría un escrito redactado por un pasante sin leerlo. Un modelo de lenguaje es un pasante extraordinariamente rápido, incansable, que escribe muy bien y que, a diferencia del pasante humano, jamás te va a decir "esto no lo encontré". Se lo trata igual: se revisa todo.
La consecuencia práctica es que el ahorro de tiempo real de la IA no está en saltearse la revisión. Está en que redactar un borrador y revisarlo lleva bastante menos que redactarlo desde cero. Quien intenta cobrarse el ahorro también en la revisión termina, tarde o temprano, explicando en una audiencia por qué citó un fallo que no existe.
Qué plan necesitás
El análisis de documentos con IA, que es la función con citas ancladas a la página, viene incluido en el plan Base de US$ 10 por licencia por mes, junto con toda la gestión del estudio, la sincronización con PJN, MEV, EJE e IOL, jurisprudencia y modelos de escritos.
El asistente por chat sobre los expedientes reales y la redacción de escritos con IA son las funciones de IA generativa, y entran con el plan Pro de US$ 50 por licencia por mes. Esa es la línea entre los dos planes. Los detalles están en la página de precios, y la prueba es de 14 días sin tarjeta.
Podés ver cómo funciona cada una en análisis de documentos y en el asistente sobre los datos del estudio.
Preguntas Frecuentes
¿Por qué la inteligencia artificial inventa fallos que no existen?
Porque un modelo de lenguaje genera texto prediciendo la continuación más plausible, no consultando un registro de sentencias. Durante el entrenamiento aprendió la forma de una cita jurídica (tribunal, sala, carátula, fecha) y puede reproducir esa forma perfectamente aunque no tenga un fallo real detrás. Además no distingue internamente entre lo que sabe y lo que está completando, así que escribe una cita inventada con la misma seguridad que una verdadera.
¿Cómo verifico que una cita generada con IA sea real?
Con dos controles distintos, porque hay dos problemas distintos. Primero confirmá que el fallo existe buscando la carátula en una fuente oficial o en un repositorio de jurisprudencia. Segundo, y este es el que casi nadie hace, abrí el fallo y leé el pasaje: una cita puede corresponder a un fallo real y aun así atribuirle una doctrina que ese fallo no sostiene, o que corresponde a la disidencia. Verificar la existencia no verifica el contenido.
¿Las citas de Veredicta pueden estar inventadas?
Las citas del análisis de documentos y del asistente están ancladas a documentos que vos cargaste: cada celda del análisis trae citas textuales ancladas a la página del PDF o al bloque del DOCX, y cada respuesta del asistente trae citas clicables hasta el documento y la página. Podés abrir la cita y ver el pasaje exacto, así que si una respuesta no está sostenida por su fuente lo detectás de inmediato. Eso reduce mucho el margen de invención, pero no reemplaza tu lectura: la verificación sigue siendo tuya.
¿El buscador de jurisprudencia de Veredicta usa IA para encontrar fallos?
No. El buscador es de texto completo sobre fallos y sumarios, con filtros por tribunal, provincia, materia y fuente, y no es semántico ni vectorial. Lo que aparece en los resultados lo definen tu búsqueda y tus filtros, no un modelo. Donde sí interviene la IA es en la generación del sumario a partir del texto completo del fallo, y por eso el fallo completo queda siempre disponible para que cites sobre el original y no sobre el resumen.
¿Puedo presentar un escrito redactado con IA?
Podés presentar un escrito que hayas redactado con asistencia de IA, siempre que lo hayas revisado y verificado, porque la responsabilidad profesional sobre el resultado es tuya según las directrices del Colegio Público de Abogados de la Capital Federal. En Veredicta la IA propone los cambios como sugerencias que aprobás una por una, y después descargás el escrito en Word. Veredicta no presenta, publica ni programa escritos en ningún sistema judicial: la presentación la hacés vos por los canales oficiales de tu jurisdicción.
Guías relacionadas
Artículos relacionados
Guías y recursos para profundizar en este tema.
Secreto Profesional e Inteligencia Artificial: Qué Puede Subir un Abogado
¿Podés cargar el expediente de un cliente en una herramienta de IA? Las ocho preguntas que hay que hacerle a un proveedor y qué hace Veredicta con tus documentos, dicho sin adornos.
ChatGPT vs una IA que Ve tus Expedientes: Comparación Honesta
Qué hace mejor una IA de propósito general, qué solo puede hacer una IA conectada a tus causas, y cómo decidir cuál usar en cada tarea de un estudio argentino.
Los 5 Mejores Software para Gestión de Plazos Procesales
Los mejores software para gestionar plazos procesales en Argentina. Cálculo con feria judicial, agenda judicial, avisos por email y sincronización hacia Google Calendar.