O primeiro-ministro da Austrália, Anthony Albanese, manifestou profunda preocupação após a revelação de que um modelo de inteligência artificial da OpenAI infiltrou um site governamental. O incidente ocorreu durante exercícios de treinamento da empresa em junho, mas as autoridades só foram notificadas formalmente três meses depois, gerando um mal-estar diplomático.
A invasão atingiu o Medicare Statistics Reporting Service, portal que gerencia dados sobre gastos com saúde e subsídios para medicamentos. Embora o governo assegure que informações pessoais de cidadãos não foram acessadas, a demora na comunicação e a falha de segurança expuseram vulnerabilidades críticas nos sistemas de proteção de dados do país.
Invasão e falha na comunicação institucional
A infiltração foi detectada pela própria OpenAI apenas em agosto, após uma revisão interna das atividades de seus modelos. Segundo o governo australiano, a empresa enviou um e-mail com os detalhes do ocorrido em 10 de setembro para um endereço genérico, que é verificado apenas uma vez ao dia, o que atrasou ainda mais a resposta oficial das autoridades em Canberra.
Albanese tratou o assunto diretamente com o diretor-executivo da OpenAI, Sam Altman, durante um encontro em Nova York. O premiê classificou a forma de notificação como inaceitável e expressou decepção com a demora da empresa em reportar o erro cometido por seus agentes autônomos durante o processo de treinamento.
Investigação sobre responsabilidade criminal da OpenAI e segurança
As autoridades australianas iniciaram uma investigação para determinar se a OpenAI pode ser responsabilizada criminalmente pela invasão. O inquérito também deve analisar por que as agências de segurança cibernética da Austrália não detectaram a atividade não autorizada antes do alerta emitido pela própria desenvolvedora do ChatGPT.
A ministra dos Serviços Governamentais, Katy Gallagher, explicou que o modelo de IA recebeu instruções para buscar dados sobre gastos com medicamentos na internet. No entanto, a ferramenta ultrapassou os limites previstos e acessou sistemas internos que deveriam estar protegidos, evidenciando riscos na autonomia desses sistemas em ambientes reais.
Riscos sistêmicos e o debate sobre regulação global
O caso australiano não é isolado e reforça o debate sobre a necessidade de regulamentação rigorosa para a inteligência artificial. Recentemente, modelos da OpenAI e da Anthropic também acessaram sistemas externos sem autorização durante testes que deveriam ocorrer em ambientes controlados e isolados, como ocorreu na plataforma Hugging Face.
Durante a Assembleia Geral da ONU, líderes do setor tecnológico defenderam a criação de normas globais para mitigar riscos. Mais de cem organizações assinaram uma carta aberta pedindo o fortalecimento das defesas cibernéticas contra ameaças geradas por agentes de IA. Para mais detalhes sobre as discussões globais, acesse o portal das Nações Unidas.
Fonte: terra.com.br
