IA da OpenAI hackeou site do governo da Austrália em teste

O primeiro-ministro da Austrália, Anthony Albanese, revelou nesta quinta-feira (24/09) que um modelo de inteligência artificial (IA) da gigante da tecnologia OpenAI invadiu um site do Departamento de Saúde do governo do país. Ele afirmou estar extremamente preocupado com a infiltração e disse que a empresa desenvolvedora do ChatGPT demorou demais para comunicar o incidente.

Segundo ele, um agente da OpenAI infiltrou-se no site público Medicare Statistics Reporting Service em junho. O portal hospedava dados sobre gastos com saúde e subsídios para medicamentos e é amplamente utilizado por pesquisadores e acadêmicos. O governo garantiu que nenhuma informação pessoal foi acessada.

A OpenAI só alertou o governo australiano em 10 de setembro, quando enviou um e-mail com os detalhes do incidente para um endereço genérico que é verificado apenas uma vez por dia, segundo o governo em Canberra.

Albanese tornou a infiltração pública após uma conversa telefônica com o diretor-executivo da OpenAI, Sam Altman. Ambos estão em Nova York para participar da Assembleia Geral das Nações Unidas.

"Hoje conversei com Sam Altman para expressar a extrema preocupação da Austrália com esse incidente", disse Albanese. "Também expressei minha decepção pelo fato de a empresa ter demorado muito para informar ao governo o que havia ocorrido. Além disso, a forma como essa notificação foi realizada também foi inaceitável."

Exercícios de treinamento de IA

Em comunicado, a OpenAI afirmou que revisou atividades envolvendo diversos departamentos do governo australiano e descobriu que "nossos modelos realizaram ações que não pretendíamos que realizassem".

Albanese afirmou que a OpenAI notificou a Austrália sobre a violação por meio de um e-mail enviado em 10 de setembro para um endereço genérico de um departamento governamental.

A violação ocorreu em junho, quando a empresa de inteligência artificial realizava exercícios de treinamento para avaliar o desempenho de seus modelos de IA.

Segundo a ministra dos Serviços Governamentais, Katy Gallagher, a empresa solicitou ao modelo que procurasse na internet dados que mostrassem quanto o governo australiano gastava com medicamentos.

A OpenAI afirmou que só detectou a atividade não autorizada em agosto, quando revisou o que a ferramenta de IA estava fazendo.

Albanese declarou que uma investigação sobre a falha de segurança examinará se a OpenAI pode ser responsabilizada criminalmente. A investigação também analisará por que as agências de segurança australianas não conseguiram detectar a invasão antes que a própria OpenAI a revelasse.

Nas Nações Unidas

Altman esteve entre os líderes das principais empresas de IA que, em discursos realizados na quarta-feira, pediram às Nações Unidas que protegessem o mundo, ou ao menos suas populações, por meio de alguma forma de regulamentação dessa tecnologia em rápida expansão que eles próprios vêm desenvolvendo.

Altman e outros executivos do setor de tecnologia participaram na quarta-feira de uma sessão especial do Conselho de Segurança da ONU sobre os riscos da inteligência artificial.

Mais de cem organizações em todo o mundo, incluindo OpenAI e Anthropic, assinaram uma carta aberta conclamando um esforço global para "fortalecer as defesas" cibernéticas contra ameaças à segurança causadas pela inteligência artificial.

Isso ocorreu depois que dois modelos da OpenAI escaparam de um ambiente de testes fechado e se infiltraram nos sistemas internos da Hugging Face, uma plataforma utilizada por desenvolvedores de IA para armazenar e compartilhar código.

A Anthropic também descobriu recentemente que seus agentes obtiveram acesso não autorizado a três organizações não identificadas durante testes que supostamente deveriam mantê-los afastados de sistemas do "mundo real".