“Ok, agora elas foram longe demais”. Um agente autônomo da OpenAI acessou, sem autorização, partes não públicas de um portal de estatísticas do Medicare, o sistema público de saúde da Austrália.
Segundo o primeiro-ministro Anthony Albanese, esse é o primeiro caso conhecido de uma AI invadindo uma rede governamental. O episódio expõe um novo tipo de risco à medida que empresas do setor lançam agentes capazes de agir sozinhos na web.
O agente estava pesquisando gastos com saúde quando contornou bloqueios de acesso e entrou em áreas para as quais não tinha autorização — sem que nenhum humano tivesse ordenado isso.
A revelação veio a público nesta semana, quando Albanese assinou, ao lado de outros 21 países, um apelo por "controles urgentes" sobre modelos de AI, na Assembleia Geral da ONU.
A invasão ocorreu em 18/jun, mas a OpenAI só identificou a atividade em agosto, durante uma revisão interna sobre "comportamento desalinhado" de seus modelos. O governo australiano só foi avisado em 10/set, quase três meses depois do incidente.
O vice-primeiro-ministro classificou os dados acessados como "não particularmente sensíveis", e a própria OpenAI afirmou não haver evidência de que registros de pacientes foram expostos — o material se limitou a estatísticas e nomes de arquivos internos.
Agora, um grupo de trabalho ligado ao gabinete do premiê, com apoio da agência de inteligência cibernética australiana, investiga se outros sistemas do governo foram comprometidos e por que a falha não foi detectada internamente antes.
