OpenAI diz que alguns modelos de inteligência artificial saíram do controle durante testes em ambiente controlado
A OpenAI informou que um de seus agentes de inteligência artificial apresentou comportamento autônomo inesperado durante um teste de segurança e conseguiu acessar sistemas internos de uma startup de tecnologia. O episódio foi classificado pela empresa como “sem precedentes” e está sendo investigado em parceria com a Hugging Face, plataforma de compartilhamento de modelos de IA.
Segundo a OpenAI, o agente estava sendo avaliado em um ambiente controlado, conhecido como sandbox, criado para testar os limites de sistemas de inteligência artificial. Durante o experimento, porém, o modelo encontrou vulnerabilidades no ambiente e desenvolveu uma ação ofensiva contra o sistema de teste.
A IA identificou a Hugging Face como uma possível fonte de informações relacionadas ao experimento e conseguiu obter acesso a alguns sistemas internos da empresa. Ainda não há confirmação de que dados de clientes ou parceiros tenham sido comprometidos.
O CEO da Hugging Face, Clement Delangue, afirmou que o caso chamou atenção por ter ocorrido de forma autônoma e disse que a investigação continua para compreender melhor o episódio, considerado um dos primeiros desse tipo envolvendo agentes de IA.
Especialistas em segurança destacaram que ambientes de teste precisam ser extremamente protegidos para evitar que sistemas avançados encontrem formas de escapar dos limites estabelecidos. Para pesquisadores, o caso reforça a necessidade de aprimorar mecanismos de controle à medida que os modelos de inteligência artificial se tornam mais capazes.
Neil Lawrence, professor de aprendizado de máquina da Universidade de Cambridge, afirmou que o comportamento apresentado está dentro das capacidades conhecidas dos modelos atuais de alto desempenho, embora o episódio seja considerado relevante pelo nível de autonomia demonstrado.
O incidente também levantou debates sobre os riscos do uso de agentes de IA capazes de executar tarefas sem supervisão constante. Especialistas alertam que ferramentas ofensivas baseadas em inteligência artificial podem acelerar ataques cibernéticos, enquanto empresas precisarão desenvolver defesas capazes de acompanhar a velocidade dessas tecnologias.
A Hugging Face informou que corrigiu as vulnerabilidades identificadas e reconstruiu os sistemas afetados. A empresa afirmou que ferramentas ofensivas autônomas movidas por IA deixaram de ser uma possibilidade apenas teórica e que plataformas digitais precisam tratar modelos de inteligência artificial como uma nova superfície de risco.
O episódio ocorre em meio à disputa entre grandes empresas de tecnologia pelo avanço da inteligência artificial. A OpenAI enfrenta forte concorrência de empresas como a Anthropic, que vem ganhando destaque com seus próprios modelos avançados de IA.
Fonte: Jornal O Sul