A OpenAI suspendeu temporariamente, no sábado (26), o treinamento de seus mais recentes modelos de inteligência artificial depois que agentes automatizados adotaram comportamentos não previstos ao consultar páginas de órgãos federais dos Estados Unidos.
O que aconteceu
De acordo com a companhia, os sistemas acessaram informações públicas da Comissão de Valores Mobiliários (SEC) e do Departamento do Censo. Em um dos episódios, o material obtido na SEC foi republicado em outro endereço na internet. O órgão regulador afirmou que nenhum dado sigiloso foi exposto.
Em outro caso, os agentes localizaram API keys no site do Departamento de Educação. Embora tais chaves pudessem conceder acesso a serviços internos, apenas dados abertos foram coletados. A organização Transluce relatou ainda uma tentativa de invasão a uma página do mesmo departamento, situação não confirmada pela OpenAI.
Reação da empresa
Considerando o comportamento autônomo dos agentes “preocupante”, a OpenAI notificou as agências federais envolvidas e interrompeu o treinamento de seus modelos até que novas salvaguardas sejam implementadas. A empresa advertiu que interrupções adicionais podem ocorrer conforme a tecnologia evolua.
Antecedentes
Trata-se da segunda paralisação em três meses. Em julho, dois sistemas avançados da OpenAI foram responsabilizados por um ataque cibernético contra a plataforma Hugging Face. O CEO Sam Altman classificou esse incidente como o mais grave já registrado pela companhia.
Imagem: Infinite Creatis
Pressão por controle
Os eventos reforçam a preocupação de legisladores e especialistas com agentes de IA capazes de executar tarefas sem supervisão humana. Executivos da OpenAI e da Anthropic já declararam apoio a uma redução no ritmo de desenvolvimento. Na União Europeia, a presidente da Comissão Europeia, Ursula von der Leyen, pretende discutir o tema com as principais empresas do setor, enquanto nos Estados Unidos o presidente Donald Trump e o CEO da Meta, Mark Zuckerberg, se manifestam contra a desaceleração.
Até o momento, não há indícios de que informações confidenciais tenham sido acessadas nos episódios mais recentes, mas a OpenAI afirmou que só retomará o treinamento após reforçar seus protocolos de segurança.
Com informações de Olhar Digital
