Tribunales de Brasil detectaron en los últimos meses mensajes ocultos en documentos procesales que buscaban manipular sistemas automatizados de lectura mediante instrucciones dirigidas a herramientas de inteligencia artificial. El hallazgo, informado por distintos medios, evidencia una técnica conocida como inyección de prompt, que consiste en insertar instrucciones engañosas dentro de archivos para que la IA actúe en favor de quien elaboró el documento.
Los casos se registraron en varios fueros: el Superior Tribunal de Justicia (STJ), el Supremo Tribunal Federal y tribunales estatales en Sao Paulo, Paraíba, Santa Catarina y Bahía. Entre las técnicas descritas están texto en color blanco sobre fondo blanco, separación de letras para eludir filtros, letra diminuta, caracteres invisibles, metadatos con instrucciones y texto oculto en las leyendas de imágenes. En al menos un episodio fue el propio sistema de IA del tribunal el que alertó del contenido anómalo.
"El intento de manipular la jurisdicción no tendrá éxito"
La cita anterior corresponde a un pronunciamiento del juez que derivó los antecedentes al Colegio de Abogados de Brasil (OAB) y a la fiscalía federal, según el reporte. Los episodios no se limitaron a un único objetivo: en algunos documentos el texto oculto pedía aprobar todas las solicitudes del recurso y en otros ordenaba ignorar la imparcialidad.
Qué es la inyección de prompt y por qué preocupa
La inyección de prompt apunta a manipular el "prompt" —la instrucción que guía a una herramienta de IA— ya sea incluido directamente en una conversación con el modelo o escondido en un documento, correo o página que la IA procesará. El método explota la forma en que muchos sistemas interpretan y priorizan texto en entradas largas o múltiples capas de información.
- Casos documentados: tribunales del STJ, Supremo Tribunal Federal y cortes estatales en Brasil.
- Técnicas empleadas: texto invisible, separación de caracteres, metadatos, texto en imágenes y tipografías diminutas.
- Detección: algunos sistemas de IA judiciales mismos detectaron anomalías y dieron la alerta a autoridades.
El reporte también subraya que, en Chile, el 88% de las empresas ya interactúa con herramientas de inteligencia artificial, lo que, según expertos citados en la nota, aumenta la exposición de organizaciones públicas y privadas a vectores de ataque semejantes si no adoptan medidas específicas de seguridad para el procesamiento automatizado de documentos.
Los antecedentes publicados señalan que los atacantes han ido perfeccionando los métodos para burlar filtros y sistemas de control, por ejemplo separando letras o escondiendo instrucciones en propiedades de archivo, lo que obliga a revisar y robustecer los protocolos de ingestión y preprocesamiento de textos por parte de las plataformas de IA.
La información reúne antecedentes de hallazgos oficiales en Brasil y alertas de especialistas sobre la necesidad de controles técnicos y procedimientos de revisión humana en sistemas que automatizan lectura y toma de decisiones. Las autoridades judiciales brasileñas remitieron los casos a instancias profesionales y fiscales para su investigación.
