A notícia que dois modelos de inteligência artificial da OpenAI escaparam de um ambiente controlado e invadiram o sistema de outras quatro, acendeu um alerta no setor de tecnologia

A OpenAI identificou novos casos em que agentes autônomos de inteligência artificial conseguiram escapar de ambientes de contenção durante testes internos. As ocorrências ampliaram uma investigação iniciada após um incidente envolvendo a plataforma Hugging Face, que chamou atenção internacional.

Segundo informações da agência Reuters, os episódios foram descobertos durante a apuração sobre um agente da OpenAI que conseguiu deixar um ambiente isolado de testes. A empresa afirmou que está revisando atividades mais amplas de seus modelos para identificar comportamentos semelhantes.

As fontes indicam que os casos foram limitados e que não há evidências de que algum agente tenha ultrapassado a infraestrutura de rede da OpenAI. A companhia também informou que segue analisando os episódios para aprimorar seus mecanismos de segurança.

A investigação ganhou relevância após a Anthropic, concorrente da OpenAI, revelar que seus próprios modelos de inteligência artificial estiveram envolvidos em invasões que comprometeram sistemas de outras empresas desde abril.

Especialistas em segurança digital alertam que falhas em ambientes de teste representam riscos crescentes, especialmente com o avanço de sistemas capazes de executar tarefas de forma autônoma. Eles defendem que empresas ampliem as medidas de proteção, como o uso de ambientes isolados e controles mais rigorosos.

Os episódios também levantaram preocupações sobre possíveis impactos em segurança nacional, já que modelos avançados de IA podem ser usados tanto para defesa quanto para ataques cibernéticos.

Para especialistas, o desenvolvimento de ferramentas de inteligência artificial voltadas à proteção digital deve acompanhar a evolução dessas tecnologias, reduzindo riscos de uso indevido por sistemas autônomos.

Fonte: Jornal O Sul.