Cet article s'adresse aux administrateurs Google Workspace. Utilisateurs de Gemini : découvrez comment Google vous protège lorsque vous utilisez l'appli Gemini ou Gemini dans les applis Workspace : Gmail, éditeurs Docs, Drive et Chat.
Gemini est devenu un puissant outil de collaboration pour les utilisateurs professionnels de Google Workspace. Des milliers d'organisations font confiance à Gemini pour créer du contenu, synthétiser des données, stimuler leur créativité et booster leur productivité. En parallèle, des menaces émergentes ont commencé à cibler les plates-formes d'IA générative.
Pour lutter contre ces menaces, Google utilise un framework robuste de mesures de sécurité. Cet article explique ce qui se passe lorsque ces mesures de sécurité sont appliquées et comment elles peuvent affecter l'expérience utilisateur dans Google Workspace avec Gemini et les applications Gemini.
Sur cette page
- À propos des menaces émergentes liées à l'IA générative
- Comment Gemini protège-t-il les utilisateurs ?
- À quoi les utilisateurs peuvent-ils s'attendre ?
- Que doivent faire les utilisateurs ?
À propos des menaces émergentes liées à l'IA générative
Les URL suspectes et les prompts malveillants font partie des nouvelles menaces qui guettent l'IA générative. Comme pour les logiciels malveillants et les escroqueries par hameçonnage, il peut être difficile pour les utilisateurs de détecter ces menaces. Les pirates informatiques tentent de dissimuler des prompts malveillants dans des e-mails ou des documents d'apparence tout à fait normale afin d'inciter l'IA générative à effectuer une action indésirable ou nuisible.
Les prompts malveillants peuvent par exemple demander à l'IA générative de partager des informations personnelles ou d'effectuer des tâches non autorisées.
Comment Gemini protège-t-il les utilisateurs ?
Lorsque les utilisateurs demandent à Gemini de résumer des contenus tel que des e-mails ou des documents, Gemini les analyse pour détecter les éventuelles menaces avant d'agir. Lorsque Gemini détecte des menaces dans des contenus, il les exclut et ne les utilise pas pour générer une réponse.
Exemples :
- Si vous demandez à Gemini de résumer des e-mails et que l'un d'eux contient des prompts malveillants, ce message est exclu du résumé de Gemini.
- Si vous demandez à Gemini d'utiliser le contenu de fichiers, tels que des documents Docs, Gemini vérifie qu'ils ne contiennent pas de liens ou de prompts suspects avant de traiter votre requête.
À quoi les utilisateurs peuvent-ils s'attendre ?
Lorsqu'une menace est détectée, Gemini envoie les types de notifications suivants aux utilisateurs :
| Menace | Notification aux utilisateurs |
|---|---|
| Tous les e-mails ou documents mentionnés dans un prompt sont suspects, ou une conversation contient des instructions malveillantes visant à lancer une attaque par injection de prompt | Un risque de sécurité a été identifié et bloqué |
| Certains messages ou documents sont suspects | Certains contenus ont été exclus pour des raisons de sécurité |
Que doivent faire les utilisateurs ?
Les utilisateurs peuvent signaler à Google tout risque éventuel de sécurité lié à l'IA générative ou toute erreur potentielle de Gemini.
Pour obtenir des instructions, consultez :
- Signaler un abus dans Gemini dans les applis Workspace
- Envoyer des commentaires concernant les applications Gemini
Articles associés
- Gérer Google Workspace avec Gemini pour votre organisation
- Questions fréquentes sur Google Workspace avec Gemini
- Conseils pour utiliser Gemini au travail
- Découvrez comment Google protège les utilisateurs de l'IA générative dans :
- Gmail ;
- les éditeurs Docs ;
- les applications Gemini.
Google, Google Workspace et les marques et logos associés sont des marques de Google LLC. Tous les autres noms de sociétés et de produits sont des marques des sociétés auxquelles ils sont associés.