Um estudo publicado por pesquisadores de instituições da Alemanha, Estados Unidos e Reino Unido encontrou indícios de que modelos de inteligência artificial de código aberto podem ter sido treinados com informações extraídas do raciocínio de sistemas proprietários mais avançados. Entre os casos que mais chamaram atenção está o Kimi K3, desenvolvido pela chinesa Moonshot AI.
Os pesquisadores descobriram uma vulnerabilidade que permitia recuperar partes do raciocínio interno, conhecido como chain of thought, de modelos oferecidos por OpenAI, Anthropic e Google. Com acesso a essas informações, a equipe conseguiu comparar os padrões produzidos pelas tecnologias proprietárias com os de diferentes modelos abertos.
O trabalho, intitulado “Stealing Reasoning Traces from Proprietary LLM APIs”, foi conduzido por pesquisadores ligados à Universidade de Tübingen, Instituto Max Planck, MATS Research e à empresa de segurança Snyk, entre outras instituições.
Kimi K3 apresentou semelhanças incomuns
Nos testes, o Kimi K3 apresentou um comportamento considerado incomum quando recebeu pequenos trechos do raciocínio extraído de modelos como o GPT-5.6 Sol, da OpenAI, e o Claude Opus 4.8, da Anthropic.
Em um dos experimentos, fornecer apenas algumas palavras iniciais do raciocínio do Claude Opus 4.8 foi suficiente para deslocar de maneira mensurável o padrão de respostas do Kimi K3 em direção ao comportamento do modelo da Anthropic.
Os pesquisadores também realizaram uma análise de memorização. Segundo o trabalho, determinados trechos específicos de raciocínio produzidos por Claude e GPT foram até cerca de seis ordens de magnitude mais fáceis de recuperar do Kimi K3 do que do modelo que apresentou o segundo resultado mais próximo.
O estudo avaliou 90 problemas, incluindo questões da competição matemática AIME e desafios de programação do Codeforces. Entre os modelos abertos analisados estavam Kimi K3, versões anteriores da família Kimi, GLM-5.2, DeepSeek-V3.1 e Inkling.
Apesar dos resultados, os autores são cautelosos: as semelhanças não demonstram causalmente que a Moonshot AI tenha utilizado os modelos americanos para treinar o Kimi K3. Também não permitem afirmar que houve apropriação deliberada de tecnologia.
Destilação está no centro da discussão
Uma das hipóteses levantadas é o uso da chamada destilação de modelos. A técnica permite utilizar as respostas ou o raciocínio produzido por um sistema mais poderoso, chamado de “professor”, para melhorar o desempenho de outro modelo, o “aluno”.
O método pode reduzir drasticamente o custo necessário para desenvolver determinadas capacidades. A controvérsia surge quando empresas utilizam modelos proprietários de concorrentes para gerar grandes volumes de dados de treinamento, especialmente quando essa utilização contraria os termos estabelecidos pelos fornecedores das tecnologias.
A descoberta ganha relevância justamente porque empresas americanas vêm tentando impedir que o raciocínio mais detalhado de seus modelos seja utilizado por concorrentes para treinar novas inteligências artificiais.
Os sistemas mais avançados passaram a esconder essas etapas de processamento e entregar aos usuários apenas uma resposta final ou um resumo do raciocínio. O novo estudo mostrou, porém, que a proteção adotada pelas empresas apresentava uma vulnerabilidade importante.
Falha permitia recuperar raciocínio protegido
Os pesquisadores descobriram que determinados blocos criptografados contendo o raciocínio dos modelos podiam ser reutilizados entre sessões, usuários e até modelos diferentes do mesmo fornecedor.
Na prática, um bloco gerado por um modelo mais poderoso poderia ser apresentado a uma versão mais simples da mesma empresa. Como os modelos compartilhavam a capacidade de interpretar aquele conteúdo, os pesquisadores conseguiram fazer com que sistemas menores revelassem em texto parte do raciocínio produzido pelos modelos mais avançados.
O método foi demonstrado em sistemas da OpenAI, Anthropic e Google. Os pesquisadores comunicaram as empresas antes da divulgação do estudo, e medidas de correção foram implementadas para reduzir as possibilidades de exploração da vulnerabilidade.
Mais de 180 credenciais foram encontradas
A pesquisa também revelou um problema que vai além da proteção da propriedade intelectual das empresas de IA.
Ao analisar 315.320 blocos de raciocínio encontrados em repositórios públicos, a equipe conseguiu recuperar 367 registros contendo informações pessoais e 182 credenciais, incluindo chaves de API, senhas e outros dados de acesso.
Parte dessas informações aparecia apenas no raciocínio interno do modelo e não estava presente nas respostas visíveis compartilhadas pelos usuários.
A descoberta mostrou que arquivos aparentemente inofensivos publicados por desenvolvedores poderiam carregar informações sensíveis dentro dos blocos criptografados de raciocínio.
Pesquisa alimenta disputa tecnológica entre Estados Unidos e China
Os resultados também aumentam a discussão sobre a velocidade com que empresas chinesas vêm reduzindo a distância em relação às principais desenvolvedoras americanas de inteligência artificial.
A possibilidade de modelos chineses utilizarem técnicas de destilação a partir de sistemas dos Estados Unidos já vinha sendo discutida no setor tecnológico e por autoridades americanas. O novo estudo acrescenta dados técnicos ao debate, embora não forneça uma prova definitiva de que a Moonshot ou outras empresas chinesas tenham copiado deliberadamente tecnologias dos concorrentes.
A própria pesquisa deixa essa distinção clara: existem sinais estatísticos e comportamentais compatíveis com aprendizado a partir de raciocínios proprietários, mas determinar exatamente quais dados foram usados durante o treinamento do Kimi K3 exigiria evidências adicionais.
Por enquanto, o trabalho chama atenção para dois problemas que devem continuar no centro da corrida mundial pela inteligência artificial: como impedir que modelos proprietários sejam utilizados para acelerar concorrentes e como proteger informações sensíveis processadas internamente pelas próprias IAs.
Fontes consultadas:
📲 Receba as principais notícias
Entre nos canais do One Notícias e acompanhe as atualizações:
Nenhum comentário:
Postar um comentário
Faça seu comentário com respeito!