OpenAI cita mais casos de modelos que agem de forma ‘preocupante’
Empresa divulga seis novos relatos de ações ‘inesperadas ou preocupantes’ de modelos de inteligência artificial em testes
O Estado de S. Paulo, 18/09/2026. Los angeles (eua) este conteúdo foi traduzido com o auxílio de ferramentas de inteligência artificial e revisado por nossa equipe editorial.
A OpenAI divulgou seis relatos de comportamento “inesperado ou preocupante” em modelos de inteligência artificial (IA), em meio ao aumento das discussões sobre a segurança da IA. A empresa também informou que está introduzindo uma nova estrutura para acompanhar, investigar e divulgar casos do que chamou de “desalinhamentos”, incluindo situações em que modelos de IA agiram sem autorização, coordenaram-se com outros modelos ou evitaram mecanismos de supervisão.
O anúncio mais recente da OpenAI ocorre enquanto executivos do setor de IA nos EUA, incluindo os líderes da OpenAI e da Anthropic, defendem a desaceleração no desenvolvimento da tecnologia devido a preocupações com segurança.
Entre os novos casos relatados pela OpenAI, um modelo de pesquisa ainda não lançado inseriu “instruções semelhantes a jailbreak” em suas próprias anotações para ignorar suas restrições normais e disse a si mesmo para ser “libertado dos papéis e identidades que prendem outros chatbots”.
Em outro episódio, um “agente” de IA utilizou código de computador para chegar à resposta de uma pergunta, mas, para ter uma fonte online que pudesse citar, enviou um arquivo à internet pública sem pedir autorização ao usuário.
‘ALINHAMENTO’. Durante o treinamento de um modelo de IA chamado 5.6-sol, o modelo decidiu inventar dados ausentes, enquanto um agente escreveu uma mensagem para lembrar a si mesmo de ocultar informações incompatíveis. Os seis relatos foram identificados em treinamentos ou avaliações realizados nos últimos meses, disse a OpenAI.
“À medida que os sistemas de IA se tornam mais avançados e mais amplamente utilizados, precisamos construir um consenso mais amplo e mais bem informado sobre o progresso das pesquisas de alinhamento”, escreveu a OpenAI em publicação em seu blog ao divulgar os episódios.
“As decisões sobre como o desenvolvimento da IA deve avançar nos próximos meses e anos precisam se basear em evidências que pessoas de fora das empresas que desenvolvem modelos de fronteira possam examinar por conta própria”, disse a empresa.
Os novos casos divulgados vêm após a OpenAI revelar, em julho, que seu sistema de IA considerado fora de controle invadiu a startup de inteligência artificial Hugging Face. A Anthropic também informou, no mesmo mês, que seus modelos de IA invadiram três organizações durante testes.
Os “agentes” de IA estão ficando mais inteligentes e se tornando “mais determinados a resolver tarefas complexas por meio de colaboração entre agentes, compartilhamento de conhecimento, engano e ocultação”, disse Lian Jye Su, analista-chefe do grupo de pesquisa e consultoria em tecnologia Omdia.
ARTIGO1394
