A revolução da inteligência artificial no Direito acaba de ganhar uma camada crítica de cibersegurança. A Ordem dos Advogados do Brasil (OAB) lançou nesta quarta-feira (15) o OpenDetector, uma plataforma inédita projetada para identificar "armadilhas" e manipulações em conteúdos jurídicos gerados ou analisados por IA.
Desenvolvida pela legaltech brasileira Forlex, a solução é a primeira grande entrega do Plano Nacional de Integração da Inteligência Artificial na Advocacia (PNIAA) e visa blindar escritórios e tribunais contra ataques algorítmicos.
Nesta fase de lançamento, o sistema rastreia duas ameaças técnicas principais:
- Prompt Injection: A inserção de dados maliciosos e ocultos em documentos enviados por terceiros. O objetivo é "sequestrar" a IA utilizada pelo advogado que está lendo o arquivo, forçando a máquina a ignorar os comandos originais ou a executar tarefas indevidas.
- Jailbreak: Técnicas sofisticadas utilizadas para burlar os mecanismos de segurança e os filtros éticos de assistentes virtuais de tribunais e sistemas jurídicos.
Ao detectar essas anomalias, o OpenDetector gera relatórios técnicos detalhados, garantindo a rastreabilidade e a auditoria de todo o processo.
O problema já chegou à Polícia (e ao STJ)
O lançamento não é apenas uma medida preventiva; trata-se de uma resposta institucional a incidentes graves. O problema da manipulação de IA já deixou o campo teórico e chegou às esferas criminais.
Em maio deste ano, o Superior Tribunal de Justiça (STJ) determinou a abertura de um inquérito policial e de um procedimento administrativo para investigar o uso de prompt injection em peças processuais submetidas à Corte. Diante da tentativa explícita de manipular seus sistemas, o STJ precisou desenvolver sua própria IA generativa, batizada de STJ Logos, programada com comandos blindados contra esse tipo de ataque cibernético.
O cerco jurídico e regulatório sobre o uso irresponsável de algoritmos está apertando em todas as frentes, tornando-se um risco operacional gigantesco. O uso indevido de IA e a falta de supervisão humana já geram passivos graves no mercado corporativo, tendência que atinge até mesmo as big techs, como a Meta, que foi recentemente processada por ex-funcionários sob a acusação de usar IA de forma enviesada para realizar demissões em massa.
O fim das "alucinações" jurídicas
Nas próximas semanas, o OpenDetector receberá uma nova função muito aguardada: a verificação de "alucinações". O recurso irá mirar o erro mais comum na automação jurídica atual, bloqueando peças que tragam citações inexistentes, leis inventadas ou jurisprudências desatualizadas criadas pelos robôs.
O debate sobre a dependência cega dessas ferramentas é urgente. A necessidade de checagem constante ficou ainda mais evidente nesta mesma semana, quando relatos de falhas globais e instabilidade no ChatGPT acenderam o alerta sobre os riscos operacionais de basear operações inteiras em IAs instáveis.
Gratuito para advogados regularmente inscritos na OAB (bastando criar uma conta na Forlex), o OpenDetector se junta à "LIVIA" (plataforma de IA jurídica da entidade) e a uma ferramenta parceira lançada com o JusBrasil em junho. O recado do mercado e do Judiciário é claro: a tecnologia veio para dar escala, mas a segurança jurídica e a curadoria humana continuam sendo inegociáveis.
