Empresa decidiu pausar o desenvolvimento de um modelo avançado depois que os testes internos apontaram vulnerabilidades que exigem atenção imediata.
A OpenAI decidiu reduzir temporariamente o ritmo de desenvolvimento de seus modelos mais avançados depois que avaliações internas indicaram que o Astra, um dos próximos sistemas da empresa, pode ter alcançado um nível considerado crítico em capacidades de cibersegurança.
A preocupação é bem mais específica do que simplesmente um comportamento inesperado da inteligência artificial. Segundo a própria OpenAI, os testes mostraram avanços significativos do Astra em programação autônoma e tarefas de segurança digital. Os resultados foram fortes o suficiente para que a empresa afirmasse não ser mais possível descartar que o modelo tenha atingido o nível “Critical” previsto em seu protocolo interno de segurança.
Pelas regras da companhia, essa classificação pode ser alcançada quando um modelo demonstra capacidade de encontrar e desenvolver formas de explorar vulnerabilidades desconhecidas, os chamados ataques de “zero-day”, em sistemas reais e protegidos, sem intervenção humana. O nível também considera a possibilidade de uma inteligência artificial planejar e executar ataques cibernéticos complexos a partir apenas de um objetivo geral definido pelo usuário.
Diante dos resultados, parte das atividades internas envolvendo o Astra foi interrompida. A OpenAI passou a exigir ambientes mais isolados, restrições adicionais de acesso à internet e a ferramentas externas, execução de códigos dentro de sistemas controlados e monitoramento mais rigoroso das ações realizadas pelo modelo.
A empresa também revelou, em uma atualização publicada em 18 de agosto, que interrompeu por duas semanas parte dos treinamentos realizados por Reinforcement Learning (RL) em modelos destinados a futuros lançamentos. Seu maior treinamento de fronteira utilizando essa técnica continua suspenso enquanto são realizados testes menores para avaliar o comportamento dos sistemas e verificar se as novas barreiras de segurança são suficientes.
Ambientes de pesquisa também estão sendo modificados
A preocupação não está restrita ao Astra. Nas últimas semanas, a OpenAI também revisou a infraestrutura utilizada para testar modelos capazes de executar códigos e acessar ferramentas externas.
A empresa informou que passou a remover serviços compartilhados que poderiam representar vulnerabilidades, reduzir privilégios permanentes dentro de sua infraestrutura, ampliar o isolamento de redes e fortalecer os chamados “sandboxes”, ambientes utilizados justamente para impedir que códigos experimentais tenham acesso indevido a outros sistemas.
O monitoramento também foi ampliado. Sistemas automatizados analisam as ações dos modelos e podem emitir alertas diante de tentativas de acesso não autorizado, roubo de dados, comportamento destrutivo ou ações destinadas a contornar mecanismos de segurança.
Nos casos mais graves, as equipes de segurança e pesquisa são acionadas e, se não conseguirem concluir rapidamente que o alerta foi um falso positivo, a atividade deve ser interrompida.
Astra não participou do incidente envolvendo a Hugging Face
Outro ponto importante é separar os acontecimentos. A própria OpenAI afirmou que o Astra não esteve envolvido no episódio em que sistemas de inteligência artificial exploraram vulnerabilidades relacionadas à plataforma Hugging Face.
Esse incidente, porém, somado ao avanço das capacidades cibernéticas observadas em modelos mais recentes, levou a empresa a reforçar seus protocolos de contenção e a reduzir temporariamente a velocidade de alguns treinamentos.
Portanto, não se trata simplesmente de uma inteligência artificial que apresentou uma resposta estranha durante um teste. O que está em discussão é algo mais relevante: modelos de IA estão começando a demonstrar capacidade suficiente para encontrar vulnerabilidades, utilizar ferramentas e realizar tarefas de segurança digital com um grau crescente de autonomia.
A decisão da OpenAI mostra que o avanço dessas tecnologias também está aumentando o custo e a complexidade necessários para testá-las com segurança. Parte dos trabalhos com o Astra poderá continuar nos ambientes que já atendem às novas exigências, enquanto outras atividades permanecerão suspensas até que sejam migradas para estruturas consideradas adequadas.
A empresa informou ainda que pretende divulgar nas próximas semanas um relatório técnico com mais detalhes sobre o que aprendeu durante esse processo.
Fontes consultadas:
📲 Receba as principais notícias
Entre nos canais do One Notícias e acompanhe as atualizações:
Nenhum comentário:
Postar um comentário
Faça seu comentário com respeito!