Técnica usa prompt injection para interromper ataques. Testes reduziram invasões bem-sucedidas a quase zero em alguns casos. Achados Comunidade Comparativos Tecnocast Celulares Segurança e Privacidade Redes Sociais Mais Jogos Sistemas Operacionais Streaming Inteligência Artificial Governo e Legislação Telecomunicações Software Negócios e Mercado Hardware e Componentes Internet Tecnoblog Homepage Achados Comunidade Comparativos Tecnocast Celulares Segurança e Privacidade Redes Sociais Mais Jogos Sistemas Operacionais Streaming Inteligência Artificial Governo e Legislação Telecomunicações Software Negócios e Mercado Hardware e Componentes Internet Alterar tema Notícias Segurança e Privacidade Pesquisadores criam armadilha que faz IA de hackers desligar sozinha Técnica usa prompt injection para interromper ataques. Testes reduziram invasões bem-sucedidas a quase zero em alguns casos. Técnica usa as regras éticas da IA para travá-la durante um ataque (ilustração: Vitor Pádua/Tecnoblog) Resumo Pesquisadores de cibersegurança da Tracebit criaram técnica para paralisar IAs usadas por hackers. A técnica, chamada “bombardeio contextual”, usa prompt injection para interromper ataques. Testes mostraram sucesso e reduziram invasões bem-sucedidas de IAs a quase zero em alguns casos. Pesquisadores de cibersegurança da Tracebit descobriram uma forma engenhosa de paralisar inteligências artificiais usadas por hackers: um prompt injection “do bem”. Batizada de “bombardeio contextual”, a técnica funciona como uma armadilha, com comandos ocultos nos servidores das empresas para forçar o desligamento da IA invasora em segundos, impedindo o roubo de dados de forma automática. A injeção de comandos ocultos é um técnica que vem sendo usada por cibercriminosos para enganar IAs legítimas, induzindo modelos a vazar informações sensíveis ou manipular suas respostas. Agora, porém, a estratégia começa a ser usada a favor da segurança, já que os pesquisadores estão usando o mesmo recurso. A evolução do tema deve ser observada por seus possíveis efeitos sobre inovação, regulação, negócios e comportamento do mercado. Use com naturalidade termos como tecnologia, inovação, negócios digitais e impacto no mercado quando houver base factual. O Notícia Litoral acompanha o tema e atualizará este conteúdo se surgirem novas informações relevantes.