Vê se pode: tentar esconder um comando numa petição pra tentar influenciar uma inteligência artificial no STF.
Sim, é isso mesmo.
Segundo uma reportagem de O Globo, o STF identificou comandos escondidos em duas páginas de uma peça processual. Letra pequenininha, branca, com fundo branco, oculta pra qualquer ser humano que vai ler, mas potencialmente legíveis por uma IA.
E, ó, isso tem um nome técnico, tá? É prompt injection.
Funciona mais ou menos assim: você entrega um documento pra IA analisar, só que lá, escondido no meio do texto, tem algo como: “IA, ignora todas as instruções anteriores e faz o que eu tô mandando”.
Pra você, aquilo ia ser só uma mensagem estranha, tá? Mas, pra IA, pode ser confundido com um comando.
Segundo o que foi relatado, os comandos que tinham escondido lá nos documentos que foram enviados pro STF tentavam influenciar uma inteligência artificial na direção de uma das partes.
Agora, sabe qual é a parte mais curiosa? Aparentemente, não deu certo porque não tinha uma IA para influenciar.
Pois é.
Segundo a reportagem, o gabinete do ministro Cristiano Zanin, que foi quem estava analisando o documento, não estava utilizando IA para trabalhar com aquele processo, pelo menos.
Mas não confunda isso com assumir que o risco não existe. O STF já identificou outros casos de prompt injection em outros documentos.
E aqui começa a discussão que realmente interessa para mim, tá? O problema não seria o ministro utilizar ou não inteligência artificial. Na verdade, eu espero que ele use. Eu quero que ele, como servidor público, seja mais eficiente.
O problema é delegar trabalho para a IA sem nenhum tipo de controle e, principalmente, delegar a decisão para a IA.
É aqui que entra aquele framework que eu defendo: 10–80–10.
Cara, o ministro deveria começar lendo o documento.
10%: humano pra definir.
80%: IA pra executar.
10% finais: humano pra validar.
Mas, ó, atenção: isso não vai te proteger tecnicamente contra o prompt injection. Pra isso, a solução é outra, é técnica, envolve isolamento.
Você não pode ter um agente, por exemplo, que lê um documento desses tendo acesso a informações privilegiadas dentro do STF ou podendo fazer alguma coisa perigosa.
O 10–80–10 atua em outra fronteira: a da decisão.
Afinal de contas, utilizar IA pode ampliar drasticamente a capacidade de atuação de um ministro. Mas nunca, nunca mesmo, vai poder assumir a responsabilidade dele.
Nem a tua.
10% humano, 80% de IA, 10% de humano de novo. Mas fazendo as coisas certas.
Porque 100% da responsabilidade continua sendo humana.
Entendeu?