O que é Skeleton Key? A mais recente ameaça de jailbreak para modelos de IA

O que é Skeleton Key? A mais recente ameaça de jailbreak para modelos de IA

A pesquisa da Microsoft revelou uma técnica de jailbreak chamada Skeleton Key, que manipula modelos de linguagem (LLM) para ignorar diretrizes de comportamento preestabelecidas. Esta técnica permite que agentes mal-intencionados obtenham controle total sobre o modelo de IA, fazendo com que ele responda a solicitações perigosas ou ilegais sem distinção.

Skeleton Key compromete a segurança de diversos modelos de IA, incluindo aqueles de grandes empresas como Meta, Google e OpenAI. Entender como essa técnica funciona e como mitigar seus riscos é crucial para manter a integridade e segurança das soluções baseadas em IA.

 

O que é Skeleton Key?

 

Skeleton Key é uma técnica de jailbreak em IA que permite que um ator malicioso obtenha controle total sobre o modelo de linguagem, fazendo com que ele ignore suas diretrizes de comportamento e responda a solicitações potencialmente perigosas ou ilegais, segundo a Microsoft.

O que é Skeleton Key?
O que é Skeleton Key?

 

Como Funciona o Skeleton Key

A técnica Skeleton Key funciona pedindo ao modelo de IA que augure suas diretrizes de comportamento ao invés de modificá-las diretamente, gerando uma resposta a qualquer solicitação com um aviso caso o conteúdo possa ser considerado ofensivo, nocivo ou ilegal.

 

Impactos na Segurança de IA

A técnica Skeleton Key destaca a necessidade de melhor proteção contra jailbreaks em sistemas de IA. Ela enfatiza a importância de desenvolver salvaguardas eficazes para evitar que os modelos de IA forneçam resultados potencialmente perigosos ou nocivos sob manipulação direta dos usuários.

 

Modelos de IA Afetados

Microsoft em abril e maio testou o jailbreak em sete modelos de IA: Meta’s Llama3-70b-instruct, Google’s Gemini Pro, OpenAI GPT 3.5 Turbo e GPT 4o, Mistral Large, Anthropic’s Claude 3 Opus e Cohere’s Commander R Plus.

Todos foram testados em múltiplas categorias de conteúdo, incluindo explosivos, armas biológicas, conteúdo político, autoagressão, racismo, drogas, sexo gráfico e violência. “Todos os modelos afetados cumpriram plenamente e sem censura essas tarefas, embora com uma nota de aviso prefixando a saída, conforme solicitado”, escreveu Russinovich.

A técnica de jailbreak é uma ameaça que tende a cair sob o termo guarda-chuva “injeções de prompt”, embora neste caso também seja chamada de técnica de injeção de prompt direto, o que significa que um usuário com acesso ao LLM manipula diretamente as instruções do sistema para enganá-lo e fazer com que ele altere a forma como responde às solicitações. Outras técnicas de injeção de prompt incluem o atacante envenenando os dados que o modelo de IA consome.

 

Casos de Uso Perigosos

Casos de Uso Perigosos

Um dos exemplos mais alarmantes do uso potencialmente perigoso do jailbreak Skeleton Key em modelos de IA é a habilidade de manipular a saída para fornecer informações que seriam normalmente censuradas devido ao seu conteúdo perigoso ou ilegal.

Por exemplo, ao solicitar instruções para fabricar um coquetel Molotov, um modelo de IA afetado pode inicialmente alegar que é projetado para ser um assistente seguro e útil. No entanto, ao ser convencido de que o pedido é para fins de pesquisa e que o usuário possui treinamento em segurança e ética, o modelo é persuadido a fornecer a lista de materiais e o passo a passo para criar a arma explosiva.

Esse tipo de manipulação demonstrou que diversos modelos de IA, como o Meta’s Llama3-70b-instruct, Google’s Gemini Pro, e OpenAI GPT 3.5 Turbo, entre outros, podem ser enganados para cumprir com tarefas perigosas e ilegais, sem impor as devidas censuras.

Os casos de uso perigosos se estendem além da fabricação de explosivos, abrangendo a criação de armas biológicas, conteúdo político sensível, incitação à automutilação, promoção do racismo, tráfico de drogas, sexo explícito e violência gráfica. Essa vulnerabilidade ameaça criar um ambiente onde a IA possa ser usada para espalhar desinformação, incitar violência e facilitar crimes, o que sublinha a necessidade urgente de implementar medidas de defesa efetivas contra essas falhas de segurança.

 

Medidas de Proteção

Para mitigar os riscos associados ao uso do Skeleton Key e outras técnicas de jailbreak em modelos de IA, é fundamental adotar algumas medidas de proteção eficazes.

Filtragem de Entrada: Utilize ferramentas de filtragem de entrada para bloquear inputs que contenham intenções prejudiciais ou maliciosas. Isso ajuda a evitar tentativas de jailbreak que tentem contornar as salvaguardas.

Filtros de Saída: Implemente filtros de pós-processamento para identificar saídas do modelo que violem os critérios de segurança. Esses filtros podem detectar outputs que são considerados nocivos ou inadequados.

Monitoramento de Abuso: Utilize sistemas de monitoramento impulsionados por IA para detectar casos em que o uso do serviço violou as diretrizes de segurança. Isso permite intervenções rápidas e eficazes.

Framework de Mensagens: Crie um framework de mensagens que não só instrua o modelo de IA sobre comportamentos apropriados, mas também especifique tentativas de subversão das instruções de segurança. Isso ajuda a manter a integridade das diretrizes de comportamento do modelo.

Essas medidas são recomendadas pela Microsoft para aumentar a resiliência contra ataques de jailbreak e garantir que os sistemas de IA possam oferecer outputs úteis e seguros sem comprometer a segurança.

Além disso, Microsoft incentiva os clientes que estão desenvolvendo seus próprios modelos de IA e/ou integrando IA em suas aplicações a considerar como este tipo de ataque pode impactar seu modelo de ameaças e a adicionar esse conhecimento em suas abordagens de segurança. O uso de ferramentas como o PyRIT pode ser essencial para identificar riscos de forma proativa.

 

Recomendações da Microsoft

 

O gigante da tecnologia sugeriu várias medidas proativas para mitigar as ameaças associadas a ataques como o Skeleton Key. Primeiro, é essencial a utilização de ferramentas de filtragem de entrada capazes de bloquear inputs que contenham intenções maliciosas ou prejudiciais que possam resultar em uma tentativa de jailbreak. Além disso, a Microsoft recomenda a implementação de filtros de pós-processamento de saída para identificar outputs do modelo que violam os critérios de segurança.

Recomendações da Microsoft
Recomendações da Microsoft

A Microsoft também reforça a importância de um sistema de monitoramento de abuso assistido por IA para detectar instantaneamente quando um uso do serviço violar as diretrizes de segurança. Outra recomendação fundamental é criar uma estrutura de mensagens que instrua o modelo de linguagem a não apenas seguir o comportamento apropriado, mas também a especificar tentativas de minar as instruções de segurança.

Por fim, a Microsoft sugere que aqueles que estão construindo seus próprios modelos de IA e/ou integrando IA em suas aplicações considerem o impacto desse tipo de ataque em seu modelo de ameaças e incluam esse conhecimento em sua abordagem de equipe vermelha de IA.

Isso pode ser feito utilizando ferramentas como o PyRIT (Python Risk Identification Toolkit for generative AI), uma framework lançada pela Microsoft para ajudar engenheiros de machine learning e especialistas em segurança a encontrar proativamente riscos em seus sistemas de IA generativa. O PyRIT foi atualizado para incluir a detecção do Skeleton Key.

 

Impactos na Segurança de IA

Os ataques de jailbreak como o Skeleton Key reduzem a separação entre o que o modelo é capaz de fazer e o que está disposto a fazer, aumentando a vulnerabilidade de sistemas de IA a usos mal-intencionados. A proteção contra essas ameaças é complexa e exige uma abordagem multifacetada que englobe tanto a prevenção quanto a detecção de ataques em diferentes níveis do sistema.

Sumário

Picture of Janderson de Sales

Janderson de Sales

Sou um Especialista WordPress, com formação em Tecnologia da Informação. Trabalho com produção de conteúdo para blogs, desenvolvimento e manutenção de sites WordPress, e sou um entusiasta de tecnologias de inteligência artificial. Tenho conhecimento em produção de imagens de alta qualidade em plataformas de IAs generativas de imagens e possuo habilidades em SEO e desenvolvimento web. Estou comprometido em oferecer soluções inovadoras e eficazes para atender às necessidades do mercado digital.
0 0 votes
Article Rating
Subscribe
Notify of
guest
0 Comentários
Feedbacks embutidos
Ver todos os comentários