Gemini est devenu un puissant outil de collaboration pour les utilisateurs professionnels de Google Workspace. Des milliers d'organisations s'appuient sur Gemini pour créer des contenus, résumer des données, faire du brainstorming et améliorer la productivité. En parallèle, des menaces émergentes ont commencé à cibler les plates-formes d'IA générative.
Pour lutter contre ces menaces, Google utilise un framework robuste de mesures de sécurité. Cet article explique ce qui se passe lorsque ces mesures de sécurité sont appliquées et comment elles peuvent affecter l'expérience utilisateur avec Google Workspace avec Gemini et les applications Gemini.
Sur cette page
- À propos des menaces émergentes liées à l'IA générative
- Comment Gemini protège-t-il les utilisateurs ?
- À quoi les utilisateurs peuvent-ils s'attendre ?
- Que doivent faire les utilisateurs ?
À propos des menaces émergentes liées à l'IA générative
Les menaces émergentes liées à l'IA générative incluent les URL suspectes et les prompts malveillants. Comme pour les logiciels malveillants et les escroqueries par hameçonnage, il peut être difficile pour les utilisateurs de détecter ces menaces. Les pirates informatiques tentent de cacher des prompts malveillants dans des e-mails ou des documents d'apparence légitime afin d'inciter l'IA générative à effectuer une action indésirable ou nuisible.
Les prompts malveillants peuvent par exemple demander à l'IA générative de partager des informations personnelles ou d'effectuer des tâches non autorisées.
Comment Gemini protège-t-il les utilisateurs ?
Lorsque les utilisateurs demandent à Gemini de résumer des contenus tel que des e-mails ou des documents, Gemini analyse ces contenus pour détecter les menaces avant d'agir. Lorsque Gemini détecte des menaces dans des contenus, il exclut ces contenus et ne les utilise pas pour générer une réponse.
Exemple :
- Si vous demandez à Gemini de résumer des e-mails et que l'un d'eux contient des prompts malveillants, ce message est exclu du résumé de Gemini.
- Si vous demandez à Gemini d'utiliser le contenu de fichiers, tels que des documents Docs, Gemini vérifie qu'ils ne contiennent pas de liens ou de prompts suspects avant de traiter votre requête.
À quoi les utilisateurs peuvent-ils s'attendre ?
Lorsqu'une menace est détectée, Gemini envoie les types de notifications suivants aux utilisateurs :
| Menace | Notification aux utilisateurs |
|---|---|
| Tous les e-mails ou documents mentionnés dans un prompt sont suspects, ou une conversation contient des instructions malveillantes visant à lancer une attaque par injection de prompt | Un risque de sécurité a été identifié et bloqué |
| Certains messages ou documents sont suspects | Certains contenus ont été exclus pour des raisons de sécurité |
Que doivent faire les utilisateurs ?
Les utilisateurs peuvent signaler à Google tout risque éventuel de sécurité lié à l'IA générative ou toute erreur potentielle de Gemini.
Pour obtenir des instructions, consultez :
- Signaler un abus dans Gemini dans les applis Workspace
- Envoyer des commentaires concernant les applications Gemini
Articles associés
- Gérer Google Workspace avec Gemini pour votre organisation
- Questions fréquentes sur Google Workspace avec Gemini
- Conseils pour utiliser Gemini au travail
- Découvrez comment Google protège les utilisateurs de l'IA générative dans :
- Gmail ;
- les éditeurs Docs ;
- les applications Gemini.
Google, Google Workspace et les marques et logos associés sont des marques de Google LLC. Tous les autres noms de sociétés et de produits sont des marques des sociétés auxquelles ils sont associés.