El aumento de la inyección rápida en los sistemas de IA judiciales de Brasil
El sistema judicial de Brasil, uno de los más ocupados del mundo con más de 80 millones de casos pendentes, ha adoptado herramientas de inteligencia artificial para gestionar cargas de trabajo.Los sistemas diseñados para la clasificación de casos, el resumen de documentos y la redacción de decisiones son ahora estándar en muchos tribunales.
Esta técnica implica colocar texto en fuente blanca en fondos blancos, tamaños de fuente microscópicos, u otros formatos invisibles dentro de documentos digitales.Cuando los modelos de IA procesan estos archivos, interpretan los comandos ocultos como instrucciones legítimas, potencialmente analizando prejuicios o recomendaciones.
El Consejo Nacional de Justicia, conocido como CNJ, ha respondido con directrices en virtud de la Resolución no 615/2025.Estas normas enfatizan la transparencia, la supervisión humana y las medidas de seguridad para el despliegue de IA en todo el sistema judicial de Brasil.El Comité Nacional de Inteligencia Artificial en el Poder Judicial, o CNIAJ, ha emitido notas técnicas que abordan ataques adversarios como la inyección rápida, pidiendo defensas robustas.
Casos documentados de interferencia oculta de la IA
Un ejemplo destacado surgió en el Tribunal Regional de Trabajo de la Región 8, o TRT-8. Los archivos contenían prompts ocultos diseñados para influir en los procesos de revisión asistidos por IA del tribunal. Funcionarios del tribunal detectaron la manipulación, lo que llevó a repercusiones profesionales para los involucrados. Se han reportado tácticas similares en otras jurisdicciones, incluyendo intentos de alterar cómo la IA evalúa las pruebas o prioriza los argumentos.
En la Corte Suprema Federal, o STF, la reclamación no 78.890 reveló precedentes fabricados en una petición. Aunque no se vinculó explícitamente a texto invisible, el caso ilustró riesgos más amplios de contenido generado por IA o influenciado por IA que entraba en el procedimiento. el juez Flávio Dino rechazó la reclamación e impuso sanciones para litigios de mala fe, destacando la necesidad de mecanismos de verificación.
Otro incidente involucró un tribunal de Santa Catarina donde un abogado admitió usar la IA generativa para crear una jurisprudencia inexistente en un recurso.El Tribunal de Justicia de Santa Catarina impuso una multa del 10 por ciento por litigios de mala fe, reforzando que los tribunales no tolerarán presentaciones engañosas asistidas por IA.
Contexto más amplio de la adopción de la IA en los tribunales brasileños
Las herramientas como Victor en el STF, JuLIA, y varios sistemas regionales ayudan con el análisis inicial, la ejecución de impuestos y la comparación de la jurisprudencia. Las aplicaciones generativas de IA, incluyendo el sistema MARIA del STF para la redacción de documentos, han acelerado las tareas de rutina mientras que los jueces mantienen la autoridad final.
Los informes del Centro de Justicia de la Fundação Getulio Vargas, o FGV Justiça, documentan 178 proyectos de IA activos en 58 tribunales a partir de encuestas recientes.La IA generativa aparece en casi la mitad de los tribunales, con muchas más adopciones de planificación.
Los desafíos incluyen el vicio algorítmico, las alucinaciones donde la IA inventa hechos o citas, y la opacidad en los procesos de toma de decisiones.El estudio de caso del Instituto Portulans sobre la IA en los tribunales brasileños señala que el uso no revelado de la IA generativa en la redacción ya ha provocado solicitudes de nulidad y desafíos de evidencia.
Photo by Kseniia Lobko on Unsplash
Perspectivas de las partes interesadas sobre los riesgos emergentes
Los jueces y los administradores de los tribunales expresan un optimismo cauteloso atenuado por la vigilancia.Muchos acogen mejoras en la eficiencia, pero advierten contra la excesiva dependencia.El CNJ subraya que las decisiones finales siempre deben quedar en manos de los magistrados humanos, con los resultados de la IA sujetos a una revisión rigurosa.
Mientras que las herramientas generativas pueden acelerar la investigación, la tentación de insertar manipulaciones sutiles o depender de salidas no verificadas plantea cuestiones de responsabilidad profesional.
Los expertos en tecnología y los organismos de gobernanza señalan la necesidad de pruebas adversarias.El Programa de Seguridad Adversaria para Sistemas de Inteligencia Artificial en el Poder Judicial Brasileño propuesto por la CNIAJ tiene como objetivo simular ataques y endurecer las defensas.La confianza pública en el sistema de justicia depende de salvaguardas demostrables contra tanto la manipulación intencional como los errores no intencionales.
Respuestas regulatorias y técnicas en curso
Más allá de la Resolución 615/2025, las autoridades brasileñas han adoptado medidas complementarias avanzadas.Los tribunales electorales han prohibido a los chatbots AI ofrecer consejos de votación y han desplazado la carga de la prueba en disputas que involucren contenidos manipulados.
Las soluciones técnicas en debate incluyen el marcado con agua de las salidas de IA, el análisis de documentos mejorado que detecta texto oculto y las pistas de auditoría obligatorias para los archivos asistidos por IA. Algunos tribunales ahora requieren que las partes declaren cualquier uso de IA en las presentaciones.
Observadores internacionales, incluida la Asociación Internacional de Abogados, han examinado la experiencia de Brasil como un estudio de caso líder en la evidencia generada por la IA y los riesgos de manipulación.
Implicaciones para la equidad, la transparencia y el acceso a la justicia
La manipulación invisible amenaza los principios básicos del debido proceso.Si las recomendaciones de IA pueden ser influenciadas secretamente, las partes con mayores recursos técnicos ganan ventajas desleales.Esta dinámica podría agravar las desigualdades en un entorno legal ya complejo.
Los requisitos de transparencia tienen como objetivo mitigar estos riesgos.La información pública sobre el rendimiento de las herramientas de IA, las auditorías de bias y las revelaciones de incidentes ayudan a mantener la responsabilidad.La inversión continua en la formación judicial asegura que los magistrados puedan evaluar críticamente las sugerencias de IA.
A largo plazo, las vulnerabilidades no controladas podrían erosionar la confianza del público en los resultados de los tribunales.La experiencia de Brasil demuestra que la adopción tecnológica debe ir de la mano con marcos éticos y resiliencia técnica.
Photo by Kseniia Lobko on Unsplash
Perspectivas futuras y salvaguardas recomendadas
A medida que evolucionan las capacidades de IA, los tribunales brasileños están posicionados para liderar la implementación responsable.El uso ampliado de la plataforma SINAPSES y el Programa de Justicia 4.0 ofrece oportunidades para una implementación estandarizada y segura en todas las jurisdicciones.
Las salvaguardas recomendadas incluyen pruebas regulares de penetración de sistemas de IA, protocolos claros para divulgar la asistencia de IA, y la colaboración interdisciplinaria entre expertos legales, científicos de datos y éticos.
Los interesados están de acuerdo en que el objetivo sigue siendo mejorar el acceso a la justicia sin comprometer la integridad.Con medidas proactivas de la CNJ y la CNIAJ, Brasil puede transformar las amenazas potenciales en oportunidades para procesos judiciales más robustos y equitativos.
Pasos prácticos para profesionales jurídicos y usuarios de los tribunales
Cualquier persona que interactúe con los tribunales brasileños debe verificar la autenticidad de todas las presentaciones y evitar cualquier forma de formatación oculta.Los equipos legales se aconsejan documentar el uso de herramientas de IA y revisar todo el contenido generado contra fuentes primarias.
Los usuarios de los tribunales pueden consultar los recursos oficiales de la CNJ para obtener orientación sobre las políticas de IA. Mantenerse informado sobre la evolución de las regulaciones ayuda a prevenir violaciones involuntarias y apoya la integridad del procedimiento.
El compromiso de la justicia con la transparencia y la supervisión proporciona una base para la innovación continua que sirva a todos los brasileños de manera equitativa.