O Gato do Chapéu já é um caso de polícia. Ninguém viu isto a chegar — exceto quem tem um telemóvel.

Um meme gerado por IA transformou uma personagem infantil com sessenta anos num alerta de segurança em vários estados. Houve confinamentos em escolas, avisos da polícia, e vários adolescentes enfrentam agora acusações reais por ameaças que pareciam inquietantemente reais.

Um disfarce criado por um algoritmo, não por uma editora

Este mês começou a circular uma vaga de imagens geradas por inteligência artificial: uma versão fotorrealista e deliberadamente perturbadora do gato de chapéu às riscas de um livro infantil com sessenta anos, apresentada como uma figura à espreita e legendada como se avisasse de um ataque contra escolas específicas. Ninguém com direitos sobre a personagem encomendou nada disto. Não era preciso. Qualquer pessoa com um telemóvel e uma ferramenta de geração de imagens podia criar uma — e, este mês, bastante gente criou.

As imagens espalharam-se da forma como quase tudo se espalha hoje: rápido, sem contexto, e capturadas em ecrã muito antes de alguém conseguir confirmar se significavam alguma coisa.

Quando a ideia de piada da internet encontra um protocolo de resposta a sério

Escolas em vários estados dos EUA responderam da única forma permitida perante uma ameaça com aparência credível: confinamentos, avisos às famílias e chamadas à polícia. Os departamentos de polícia, por sua vez, emitiram avisos públicos, abriram investigações e, em vários estados, apresentaram acusações contra adolescentes suspeitos de criar ou divulgar as imagens.

Nada disto é motivo de piada. Uma ameaça falsa continua a desviar recursos reais da segurança real, e continua a deixar crianças reais sentadas numa sala fechada, sem saber ao certo se hoje é o dia em que algo acontece. As acusações contra os adolescentes envolvidos são sérias, tal como a perturbação causada pelas suas publicações.

O desconfortável não é o gato

A verdadeira história aqui tem muito pouco a ver com uma personagem de livro infantil e muito a ver com o facto de as instituições já não poderem assumir, sem mais, que “isto é obviamente falso”. Uma imagem gerada e uma ameaça credível chegam agora com exatamente o mesmo aspeto, o que obriga cada escola, cada departamento de polícia e cada família a tratar tudo como real até que se prove o contrário. Isso é lento, caro e — sim — por vezes surreal, da forma muito particular em que só um comunicado policial formal sobre um gato fictício de chapéu pode ser.

E, por baixo desse surrealismo, é também a decisão certa. Errar do lado da cautela é a única opção responsável quando o custo de errar é uma escola real e crianças reais.

O que fica, no fim de tudo isto

As imagens são apagadas. O ciclo noticioso avança. O que não avança tão depressa é o problema de fundo: as ferramentas generativas puseram ao alcance de qualquer pessoa, com uns minutos e uma ligação à internet, a capacidade de criar algo “suficientemente convincente para exigir resposta policial”, quer procurem causar dano real quer pensem estar apenas a fazer um meme. Distinguir as duas coisas, a posteriori, é agora um trabalho a tempo inteiro para pessoas que antes ocupavam o tempo com ameaças consideravelmente menos absurdas.

Nós passamos as nossas horas de trabalho a transformar um idioma noutro para que as pessoas se entendam um pouco mais depressa. A versão deste mês desse problema não era linguística — ninguém precisou de um tradutor para perceber que uma imagem ameaçadora é alarmante. O que falta é outro tipo de intérprete: algo capaz de distinguir um aviso real de um gerado antes de alguém ter de fechar a porta de uma sala de aula para descobrir. Ainda ninguém construiu isso. Suspeitamos que bastante gente anda a tentar.