GPT-Red simula ataques contra grandes modelos de linguagem para identificar vulnerabilidades e reforçar a segurança. Achados Comunidade Comparativos Tecnocast Celulares Segurança e Privacidade Redes Sociais Mais Jogos Sistemas Operacionais Streaming Inteligência Artificial Governo e Legislação Telecomunicações Software Negócios e Mercado Hardware e Componentes Internet Tecnoblog Homepage Achados Comunidade Comparativos Tecnocast Celulares Segurança e Privacidade Redes Sociais Mais Jogos Sistemas Operacionais Streaming Inteligência Artificial Governo e Legislação Telecomunicações Software Negócios e Mercado Hardware e Componentes Internet Alterar tema Notícias Segurança e Privacidade OpenAI treinou IA para atacar outras inteligências artificiais GPT-Red simula ataques contra grandes modelos de linguagem para identificar vulnerabilidades e reforçar a segurança. IA da OpenAI descobre vulnerabilidades sozinha (ilustração: Vitor Pádua/Tecnoblog) Resumo OpenAI desenvolveu o GPT-Red, um modelo de IA projetado para simular ataques contra grandes modelos de linguagem. O objetivo é identificar vulnerabilidades e reforçar a segurança dos modelos de IA da própria empresa. Ferramenta será usada exclusivamente pela OpenAI para proteger sua infraestrutura e não será liberada para clientes. A OpenAI revelou ontem (15/07) o GPT-Red, um novo modelo de IA criado com um propósito inusitado: atacar e encontrar vulnerabilidades nos próprios sistemas da empresa. A ferramenta simplifica os testes de segurança para blindar as novas gerações de modelos de linguagem contra ameaças antes de chegarem ao mercado. A desenvolvedora destacou o avanço rápido na capacidade de suas tecnologias e a necessidade dessa nova abordagem defensiva, afirmando que “a simulação de ataques cibernéticos é essencial”. O foco principal do GPT-Red é combater a injeção de comandos. Na prática, são textos criados para “enganar” uma IA, forçando o sistema a contornar suas regras de segurança. A evolução do tema deve ser observada por seus possíveis efeitos sobre inovação, regulação, negócios e comportamento do mercado. Use com naturalidade termos como tecnologia, inovação, negócios digitais e impacto no mercado quando houver base factual. O Notícia Litoral acompanha o tema e atualizará este conteúdo se surgirem novas informações relevantes.