O Gemini já virou um colaborador importante para usuários comerciais do Google Workspace. Milhares de organizações usam nossas IAs para criar conteúdo, resumir dados, buscar ideias e aumentar a produtividade. Ao mesmo tempo, novas ameaças surgiram contra plataformas de IA generativa.
Para se defender, o Google usa um sistema robusto de medidas de segurança. Neste artigo, explicamos o que acontece quando essas medidas de segurança são aplicadas e como elas podem afetar a experiência do usuário nos apps do Gemini e no Google Workspace com o Gemini.
Nesta página
- Sobre as novas ameaças à IA generativa
- Como o Gemini ajuda a proteger usuários
- O que os usuários podem esperar
- O que os usuários precisam fazer
Sobre as novas ameaças à IA generativa
As novas ameaças à IA generativa incluem URLs suspeitos e comandos maliciosos. Assim como os malwares e golpes de phishing, essas ameaças podem ser difíceis de detectar. Invasores tentam ocultar comandos maliciosos em documentos ou e-mails que parecem legítimos para que a IA generativa tome ações indesejadas ou prejudiciais.
Por exemplo, comandos maliciosos podem pedir que a IA generativa compartilhe informações pessoais ou realize tarefas que não foram autorizadas.
Como o Gemini ajuda a proteger usuários
Quando usuários pedem ao Gemini para resumir conteúdo como mensagens de e-mail ou documentos, ele analisa se há ameaças antes de agir. O Gemini impede que o conteúdo seja usado para gerar respostas quando identifica ameaças nele.
Exemplo:
- Se você pedir para o Gemini resumir e-mails e um deles tiver comandos maliciosos, a mensagem será excluída do resumo do Gemini.
- Se você pedir ao Gemini para usar o conteúdo em arquivos, como documentos, ele vai verificar se há links ou comandos suspeitos antes de processar a solicitação.
O que os usuários podem esperar
Quando as ameaças são detectadas, o Gemini mostra os seguintes tipos de notificação aos usuários:
| Ameaça | Notificação aos usuários |
|---|---|
| Todas as mensagens de e-mail ou documentos usados como referência em um comando são suspeitos ou uma conversa contém instruções maliciosas que tentam um ataque de injeção de comando | Um risco à segurança foi identificado e bloqueado |
| Algumas mensagens ou documentos são suspeitos | Parte do conteúdo foi excluída por motivos de segurança |
O que os usuários precisam fazer
Usuários têm que enviar feedback ao Google caso tenham dúvidas sobre riscos à segurança da IA generativa ou se acharem que o Gemini cometeu um erro.
Para mais instruções, acesse:
Temas relacionados
- Gerenciar o Google Workspace com o Gemini na sua organização
- Perguntas frequentes sobre o Google Workspace com o Gemini
- Dicas para usar o Gemini no seu trabalho ou cargo
- Saiba como o Google protege quem usa a IA generativa:
Google, Google Workspace e marcas e logotipos relacionados são marcas registradas da Google LLC. Todos os outros nomes de empresas e produtos são marcas registradas das empresas às quais estão associados.