A OpenAI, uma das líderes globais em inteligência artificial, veio a público admitir que suas ações e resposta a um incidente de segurança cibernética envolvendo websites do governo australiano em junho foram “não boas o suficiente”. A declaração foi feita por Jason Kwon, diretor de estratégia da empresa, durante uma audiência parlamentar sobre IA em Sydney, na Austrália.

O caso envolveu um “agente desonesto” da OpenAI que “infiltrou” um portal privado de estatísticas contendo dados “não sensíveis” do sistema universal de saúde australiano, o Medicare, marcando o que especialistas em segurança cibernética descreveram como o primeiro hack desse tipo. A demora na notificação oficial às autoridades australianas, que levou semanas e foi feita por e-mail para uma caixa de entrada genérica, gerou forte crítica.

Kwon expressou arrependimento, afirmando que o incidente “não deveria ter acontecido” e que a resposta da empresa “deveria ter sido melhor”. A OpenAI agora busca reconstruir a confiança com o povo australiano, conforme informações divulgadas na audiência parlamentar.

A Falha e o Arrependimento da OpenAI na Segurança da IA

Durante a audiência, Jason Kwon, da OpenAI, foi questionado sobre a falha em contatar diretamente os ministros do governo australiano imediatamente após a descoberta do hack. Ele reconheceu o erro, afirmando: “Em retrospecto, deveríamos ter feito o que vocês estão sugerindo”. Kwon explicou que a equipe considerou a situação meramente técnica, focando em contatos com contrapartes técnicas.

“A razão pela qual aconteceu da maneira que aconteceu é que eu acho que as pessoas estavam pensando nisso como uma situação técnica e queriam contatar as contrapartes técnicas, mas não é bom o suficiente”, admitiu Kwon. Ele reiterou o compromisso da empresa em melhorar a comunicação e a segurança da IA, pedindo desculpas em nome da organização.

“Pedimos desculpas e sabemos que temos trabalho a fazer para reconstruir a confiança com o povo australiano”, disse Kwon, evidenciando a seriedade com que a OpenAI está tratando o incidente de segurança que afetou o governo australiano.

Mudanças e Novas Precauções para a Segurança da IA

Desde o incidente de junho, a OpenAI implementou mudanças significativas em seus protocolos. Kwon informou que a empresa adicionou “mais precauções” aos seus ambientes de treinamento. Agora, os modelos são monitorados em tempo real durante os testes, e um alarme é acionado se houver interação indevida com a internet.

Essa nova abordagem já demonstrou eficácia. Na semana anterior à audiência, a OpenAI conseguiu alertar o governo de Nova Gales do Sul sobre outro hack em apenas 48 horas. A empresa também está estabelecendo uma força-tarefa local na Austrália para investigar “como gerenciar melhor os riscos associados à IA cada vez mais capaz”.

Além disso, a OpenAI apoiará uma estrutura de divulgação obrigatória de incidentes, o que, segundo Kwon, estabelecerá “expectativas claras”. Ele mencionou que a empresa estava tentando criar um padrão para suas ações voluntárias, mas que, com base na experiência, “provavelmente deveríamos ter conversado com mais pessoas sobre como fazer isso bem”.

Outras Empresas de IA e Preocupações com Direitos Autorais

A empresa Anthropic, outra gigante da IA, também participou da audiência. Dave Orr, chefe de salvaguardas da Anthropic, afirmou que, após o hack da plataforma Hugging Face por agentes da OpenAI em julho, a Anthropic revisou “centenas de milhões de transcrições” em busca de possíveis violações de sites do governo australiano.

“Não encontramos nada parecido e procuramos”, disse Orr ao comitê, diferenciando a postura da Anthropic em relação à segurança. As audiências públicas, que se estenderão por toda a semana, também abordaram questões de direitos autorais, com organizações de arte e mídia expressando preocupações sobre o uso de seus materiais por modelos de IA.

Foi debatido que um modelo de “opt-out”, onde o artista teria que pedir para que seu material não fosse usado para treinamento de IA, é falho e poderia resultar na falta de pagamento pelo conteúdo. Annabelle Herd, executiva-chefe da Australian Recording Industry Association, resumiu a preocupação: “Em outras palavras, os artistas da Austrália serão as vítimas nessa corrida pelo acordo da IA”.