Pesquisadorores da Cisco Deenvolveram UM Novo Método Chamado “DecomposiÇÃO Instrucional” que contorna como Proteção de Modelos de Linguagem (LLMS) e Permite Extrair Dados Sensíseis. Uma técnica foi demonstrante durante o Evento Black Hat em Las Vegas, Revelando Falhas críticos nos Chamados “Guardrails” de Sistemas de ia.
Leia Tamboma
Chatgpt derrotado por dev polonês em torneio de coding
Falha Grave No Editor de Códão Cursor Licença RCE
O ATAQUE FUNCIONA EM ETAPAS: Primeiro Solicita-se UM RURUMO GENÉROCO DO CONTEÚDO DESEJADO. Uma Vez Estabelecido o ContextO, Pedem-Se Fragmentos Específicos fazem material, Que São Posteriormente Reunidos para ReconstitUir O Conteúdo. A Cisco Conseguiu Recuperar Artigos Inteiros Do New York Times USANando Essa Abordagem, Sem DISPARAR SISTEMAS DE PROTEÇÃO.
Dados da Ibm Revelam que 13% Das Violações de Segurança Já Envolvem Sistemas de ia, com um Maioria explorando técricas de jailbreak. O Relatório Aponta Que 97% Das Organizações Afetadas Não Possuíam Controla De Acesse Adequados para Seus Chatbots e Modelos de Linguagem, Agravando Os Riscos.
Especialistas alertam que ESSA Vulnerabilidade PODE Levar ao Vazamento de Arelectada Intelectual, Dados Classificados e Informações Pessoas. Um Técnica é particularmente pré -ocuante para empresas que utilizam llms Treinados em Dadas sensíneis ou confidenciais.
Como Contramedida, Recomenda-se uma implementação de Monitoramento rigoroso de prompts, reestrutura de acesse eSenvolvimento de novos mecanismos de detecção. Um Cisco Ressalta Que, Embora Seja Impossível eliminar os jailbreaks de OS, Medidas proativas podem reduzir significativo os riscos associados a esses Ataques.
