Dieser Artikel richtet sich an Google Workspace-Admins. Nutzerinnen und Nutzer von Gemini: Hier erfahren Sie, wie Google Sie bei der Verwendung der Gemini App oder von Gemini in Workspace-Apps wie Gmail, Docs-Editoren, Drive und Chat schützt.
Gemini hat sich zu einem leistungsstarken Tool für die geschäftliche Nutzung von Google Workspace entwickelt. Tausende von Organisationen nutzen Gemini, um Inhalte zu erstellen, Daten zusammenzufassen, Brainstormings durchzuführen und die Produktivität zu erhöhen. Gleichzeitig entstehen neue Bedrohungen für Plattformen, die auf generativer KI basieren.
Zum Schutz vor diesen Bedrohungen setzt Google ein robustes Sicherheitskonzept ein. In diesem Artikel wird erläutert, was geschieht, wenn diese Sicherheitsmaßnahmen angewendet werden, und welche Auswirkungen dies auf die Nutzerfreundlichkeit von Google Workspace mit Gemini und Gemini-Apps haben kann.
Themen in diesem Hilfeartikel
- Neue Bedrohungen bei der Nutzung generativer KI
- So trägt Gemini zum Schutz von Nutzerinnen und Nutzern bei
- Benachrichtigungen bei Bedrohungen
- Handlungsmöglichkeiten
Neue Bedrohungen bei der Nutzung generativer KI
Zu den neuen Bedrohungen für generative KI gehören verdächtige URLs und schädliche Prompts. Ähnlich wie bei Malware und Phishing-Betrug können diese Bedrohungen für Nutzerinnen und Nutzer schwer zu erkennen sein. Bei solchen Angriffen wird versucht, schädliche Prompts in echt wirkenden E‑Mails oder Dokumenten zu verstecken und die generative KI zu veranlassen, unerwünschte oder schädliche Aktionen auszuführen.
Beispielsweise könnten schädliche Prompts die generative KI auffordern, personenbezogene Daten mitzuteilen oder nicht autorisierte Aufgaben auszuführen.
So trägt Gemini zum Schutz von Nutzerinnen und Nutzern bei
Wird Gemini aufgefordert, Inhalte wie E‑Mails oder Dokumente zusammenzufassen, analysiert Gemini diese Inhalte im Hinblick auf Bedrohungen, bevor Prompts ausgeführt werden. Wenn Gemini Bedrohungen in Inhalten erkennt, werden diese Inhalte nicht für die Generierung einer Antwort verwendet.
Beispiel:
- Wenn Sie Gemini auffordern, E‑Mails zusammenzufassen, und eine dieser Nachrichten schädliche Prompts enthält, wird diese E‑Mails nicht in die Zusammenfassung von Gemini aufgenommen.
- Wenn Sie Gemini auffordern, Inhalte in Dateien wie Dokumenten zu verwenden, prüft Gemini diese Dateien auf verdächtige Links oder Prompts, bevor Aktionen ausgeführt werden.
Benachrichtigungen bei Bedrohungen
Wenn Bedrohungen erkannt werden, zeigt Gemini die folgenden Arten von Benachrichtigungen an:
| Bedrohung | Benachrichtigung an Nutzerinnen und Nutzer |
|---|---|
| Alle in einem Prompt genannten E‑Mails oder Dokumente sind verdächtig oder eine Unterhaltung enthält schädliche Anweisungen, mit denen versucht wird, einen Prompt-Injection-Angriff auszuführen | Ein Sicherheitsrisiko wurde erkannt und blockiert |
| Einige Nachrichten oder Dokumente sind verdächtig | Einige Inhalte wurden aus Sicherheitsgründen ausgeschlossen |
Handlungsmöglichkeiten
Nutzerinnen und Nutzer können Google Feedback senden, wenn sie Bedenken hinsichtlich der Sicherheitsrisiken von generativer KI haben oder der Meinung sind, dass Gemini einen Fehler gemacht hat.
Eine entsprechende Anleitung finden Sie hier:
Weitere Informationen
- Google Workspace mit Gemini für Ihre Organisation verwalten
- FAQs zu Google Workspace mit Gemini
- Tipps zur Verwendung von Gemini bei Ihrer Arbeit oder in Ihrer Position
- Weitere Informationen dazu, wie Google Nutzerinnen und Nutzer von generativer KI schützt:
Google, Google Workspace und zugehörige Warenzeichen und Logos sind Marken von Google LLC. Alle anderen Unternehmens- und Produktnamen sind Marken der jeweiligen Unternehmen.