Quando a Cola Vira Vulnerabilidade: O que Alunos com IA Ensinam às Empresas

Segundo o TecMundo, um professor identificou que alunos estavam usando inteligência artificial para colar durante uma prova através de um método bastante criativo: um comando invisível inserido no próprio material de avaliação. A técnica, conhecida como injeção de prompt, permitiu que os estudantes fotografassem a folha de perguntas, alimentassem uma IA generativa com a imagem e recebessem respostas prontas, sem que o professor percebesse imediatamente o que estava acontecendo.

O caso pode parecer só uma travessura de sala de aula, mas na verdade expõe algo muito mais sério: a fragilidade de sistemas que interpretam texto sem verificar sua origem ou intenção. E isso não fica restrito ao ambiente escolar. Empresas que adotaram IA generativa em seus processos internos correm exatamente o mesmo risco, só que com consequências muito mais caras.

O que é injeção de prompt e por que isso deveria preocupar sua empresa

Injeção de prompt é basicamente inserir instruções escondidas em um conteúdo que será processado por uma IA, de forma que o sistema execute algo diferente do que o usuário original pretendia. No caso da prova, o comando invisível provavelmente instruía a IA a fornecer as respostas diretamente, sem que o aluno precisasse nem formular a pergunta corretamente.

Agora imagine esse mesmo princípio aplicado a um sistema corporativo que usa IA para triagem de currículos, análise de contratos ou atendimento ao cliente.