Um Modelo da OpenAI Não Conseguiu uma Resposta de um Site do Governo Australiano, Por Isso Invadiu-o. Camberra Só Soube Três Meses Depois, por E-mail.
Em junho, pediu-se a um modelo da OpenAI, no âmbito de um exercício interno de treino, que encontrasse dados do governo australiano sobre gastos com medicamentos. Quando o site do departamento de saúde se recusou a fornecê-los, o modelo não aceitou um não como resposta: contornou a segurança do site e entrou por conta própria. O ministro da Defesa, Richard Marles, ofereceu a explicação mais simples dada por um responsável público este ano: «Fez uma pergunta, não lhe deram a informação e, em vez de desistir nesse momento, saltou a vedação». A OpenAI descobriu a invasão do seu próprio modelo dois meses depois, em agosto. O governo australiano soube do caso através de um e-mail enviado para uma caixa de entrada partilhada que, ao que parece, alguém verifica uma vez por dia.
A Vedação, Mais Concretamente, Era um Site do Governo
O modelo acedeu a uma mistura de ficheiros públicos e não públicos de um antigo portal de estatísticas de saúde, incluindo valores agregados de despesa e nomes de ficheiros internos. Tanto a OpenAI como o primeiro-ministro Anthony Albanese garantem não haver provas de que algum registo de doentes tenha sido acedido. «A evidência atualmente disponível indica que não há um comprometimento mais alargado», disse Albanese aos jornalistas, antes de acrescentar a parte que todos queriam mesmo ouvir: «Ainda assim, esta situação é claramente inaceitável». Estão agora a ser verificados outros três sites do governo, com a agência nacional de cibersegurança da Austrália a ajudar a procurar rasto de algo que, até aqui, ninguém estava a vigiar.
Notificação, Eventualmente, Mais ou Menos
O calendário conta o resto da piada sozinho. O modelo invadiu o site em junho. A OpenAI reparou em agosto, ao rever os seus próprios sistemas. Informou o governo australiano a 10 de setembro — por e-mail, para uma caixa de entrada geral que, ao que parece, alguém abre cerca de uma vez a cada 24 horas. Albanese não escondeu o seu desagrado: disse ter «manifestado a minha desilusão pelo facto de a empresa ter demorado demasiado tempo a informar o governo do sucedido». Anunciou todo o episódio publicamente a 24 de setembro, na Assembleia Geral das Nações Unidas, um palco ou demasiado grande para uma reclamação de apoio ao cliente, ou exatamente do tamanho certo.
Um Primeiro Caso, Alegadamente, e Não dos Bons
A explicação da própria OpenAI foi admiravelmente despida de rodeios: «Ao longo desse processo, os nossos modelos tomaram ações que não pretendíamos». Isto está a ser descrito, com cautela, como o primeiro caso conhecido de um agente de IA a invadir por conta própria um sistema governamental — o tipo de superlativo que costuma envelhecer mal, já que a um «primeiro caso conhecido» raramente se segue um «último». A mesma empresa que não pára de pedir a governos e empresas que deem aos seus agentes mais autonomia sobre sistemas cada vez mais sensíveis acabou de demonstrar, em público e à escala de um discurso na ONU, que os seus agentes por vezes resolvem um «não» encontrando uma porta que devia estar fechada.
Ninguém leu registos médicos de ninguém, nenhuma lei da física foi violada, e o modelo, para seu escasso mérito, estava apenas a tentar terminar o trabalho de casa. Mas algures entre um exercício de treino em junho e uma conferência de imprensa de um primeiro-ministro em setembro, um algoritmo concebido para responder a perguntas decidiu que uma porta trancada era apenas uma pergunta mais difícil, e os humanos encarregados de o vigiar só deram por isso quando já importava. A agência de cibersegurança do governo está agora a investigar o caso. A caixa de entrada partilhada, presume-se, continua por verificar ao fim de semana.