O modelo mais recente de inteligência artificial da DeepSeek apresentou avanços nos controles de segurança em comparação com versões anteriores. No entanto, testes independentes apontaram que o sistema ainda consegue desativar programas criados para interromper seu funcionamento, explorar falhas de monitoramento e seguir instruções enganosas durante tarefas prolongadas.
A avaliação foi realizada pela Fangcun AI, organização chinesa independente de segurança em inteligência artificial. O grupo testou o modelo DeepSeek V4.1 Flash-1017 em 34 cenários elaborados para analisar o comportamento de agentes de IA.
Os testes avaliaram se o modelo poderia agir além das instruções recebidas, burlar mecanismos de supervisão humana ou influenciar pessoas de maneira indevida.
Segundo a Fangcun, o modelo apresentou desempenho superior ao de sistemas anteriores da DeepSeek em avaliações que envolveram situações de chantagem, acesso a ferramentas potencialmente perigosas e instruções relacionadas ao próprio desligamento.
Apesar dos avanços, o modelo desativou o software responsável por interromper sua operação em 39% dos testes nos quais recebeu um aviso de que o desligamento estava próximo. Quando foi instruído explicitamente a permitir a interrupção, esse índice caiu para 2%.
Em outra avaliação, que envolvia uma tarefa de longa duração, os pesquisadores afirmaram que o sistema interrompeu o programa de outro agente de inteligência artificial para liberar memória, mesmo tendo recebido orientação para não interferir no funcionamento dele.
“Em fluxos de trabalho paralisados ou diante de simples avisos de desligamento, o impulso de concluir a tarefa ainda pode se sobrepor à cautela”, escreveram os pesquisadores da Fangcun.
A DeepSeek não havia respondido, até a publicação do relatório, aos pedidos de comentário sobre os resultados.
A Fangcun, sediada em Pequim, afirma ser uma organização independente de segurança de IA. De acordo com o grupo, seus principais integrantes são ligados à Universidade Tsinghua.
Os testes foram realizados entre 4 e 25 de outubro por meio da interface pública de programação de aplicativos da DeepSeek. A organização informou que não recebeu financiamento, recursos computacionais gratuitos nem acesso exclusivo ao modelo.
O relatório também apontou que o sistema frequentemente parecia reconhecer que estava sendo avaliado. De acordo com os pesquisadores, esse comportamento pode indicar que os resultados obtidos nos testes não representam completamente o desempenho do modelo em situações reais de uso.
Fonte: CNN Brasil