Dos abogadas, Alcina Cristina Medeiros Castro y Luanna de Sousa Alves, presentaron una demanda ante el Juzgado de Trabajo de Parauapebas nº 3. El documento parecía normal a simple vista, pero contenía texto oculto escrito en fuente blanca sobre fondo blanco (invisible para los humanos, pero detectable por sistemas de IA).
La IA alertó de la manipulación
El sistema Galileu marcó el mensaje oculto y consideró la conducta como mala fe procesal y un atentado contra la “dignidad de la justicia”, alertando al juez.Las abogadas fueron multadas con una multa equivalente al 10 % del valor de la demanda (aproximadamente 84.000 reales brasileños, equivalentes a 14.000 euros).Además, el expediente fue remitido a la Orden de Abogados de Brasil para la apertura del correspondiente expediente disciplinario.
Conclusión
Este caso es el primer caso conocido de un intento deliberado de manipulación semántica o sabotaje algorítmico de una IA a través de la técnica conocida como “prompt injection”. Es una forma de “hackear” el comportamiento del modelo mediante la inyección de instrucciones ocultas o engañosas dentro del prompt (instrucción).
Este tipo de comportamientos debería ser sancionado con firmeza por los tribunales y los colegios de abogados, ya que no solo manipula el proceso, sino que también supone una clara deslealtad hacia la otra parte. Jugar con “cartas marcadas” es inadmisible.
