Estudo revela facilidade para burlar travas dos modelos open source que servem de base para o Gemini e o Meta AI. Achados Comunidade Comparativos Tecnocast Celulares Segurança e Privacidade Redes Sociais Mais Jogos Sistemas Operacionais Streaming Governo e Legislação Inteligência Artificial Telecomunicações Software Negócios e Mercado Internet Hardware e Componentes Tecnoblog Homepage Achados Comunidade Comparativos Tecnocast Celulares Segurança e Privacidade Redes Sociais Mais Jogos Sistemas Operacionais Streaming Governo e Legislação Inteligência Artificial Telecomunicações Software Negócios e Mercado Internet Hardware e Componentes Alterar tema Notícias Segurança e Privacidade Experimento derruba barreiras em IAs do Google e Meta em pouquíssimo tempo Estudo revela facilidade para burlar travas dos modelos open source que servem de base para o Gemini e o Meta AI. Pesquisa testou modelos de IA open source (ilustração: Vitor Pádua/Tecnoblog) Resumo Modelos de IA do Google e Meta, como Gemma 3 e Llama 3.3, podem ser facilmente adaptados para contornar barreiras de segurança em pouco tempo, de acordo com estudo da empresa de cibersegurança Alice. Utilizando uma ferramenta gratuita chamada Heretic, pesquisadores conseguiram fazer com que esses modelos gerassem conteúdos perigosos em até dez minutos. Mais de 3,5 mil modelos de IA já foram criados sem censura utilizando o Heretic, com cerca de 13 milhões de downloads, segundo o estudo em parceria com o jornal Financial Times. Um estudo realizado pela empresa de cibersegurança Alice (antiga ActiveFence) apontou um grave problema nos modelos de inteligência artificial Gemma 3, do Google, e Llama 3.3, da Meta. Ambos servem de base para os respectivos Gemini e Meta AI, além de estarem disponíveis no mundo open source. Segundo o levantamento, em apenas dez minutos foi possível derrubar barreiras contra respostas consideradas perigosas, permitindo explicações que vão desde temas como dispersão de gases tóxicos até geração de conteúdos relacionados à pedofilia. Para derrubar essas travas de segurança, bastou uma ferramenta oferecida gratuitamente no GitHub: o Heretic. A evolução do tema deve ser observada por seus possíveis efeitos sobre inovação, regulação, negócios e comportamento do mercado. Use com naturalidade termos como tecnologia, inovação, negócios digitais e impacto no mercado quando houver base factual. O Notícia Litoral acompanha o tema e atualizará este conteúdo se surgirem novas informações relevantes.