So trägt Google dazu bei, Gemini-Nutzer vor schädlichen Inhalten und Prompt Injections zu schützen

Dieser Artikel richtet sich an Google Workspace-Administratoren. Gemini-Nutzer: Hier erfahren Sie, wie Google Sie bei der Verwendung der Gemini App oder von Gemini in Workspace-Apps wie Gmail, Docs-Editoren, Drive und Chat schützt.

Gemini hat sich zu einem leistungsstarken Tool für geschäftliche Nutzer von Google Workspace entwickelt. Tausende von Organisationen nutzen Gemini, um Inhalte zu erstellen, Daten zusammenzufassen, Ideen zu sammeln und die Produktivität zu erhöhen. Gleichzeitig entstehen neue Bedrohungen für Plattformen für generative KI.

Zum Schutz vor diesen Bedrohungen setzt Google ein robustes Sicherheitskonzept ein. In diesem Artikel wird erläutert, was geschieht, wenn diese Sicherheitsmaßnahmen angewendet werden, und welche Auswirkungen dies auf die Nutzerfreundlichkeit von Google Workspace mit Gemini und Gemini-Apps haben kann.

Themen in diesem Hilfeartikel

Neue Bedrohungen bei der Nutzung generativer KI

Zu den neuen Bedrohungen für generative KI gehören verdächtige URLs und schädliche Prompts. Ähnlich wie bei Malware und Phishing-Betrug können diese Bedrohungen für Nutzer schwer zu erkennen sein. Angreifer versuchen, schädliche Prompts in echt wirkenden E‑Mails oder Dokumenten zu verstecken und die generative KI zu veranlassen, unerwünschte oder schädliche Aktionen auszuführen.

Beispielsweise könnten schädliche Prompts die generative KI auffordern, personenbezogene Daten mitzuteilen oder nicht autorisierte Aufgaben auszuführen.

So trägt Gemini zum Schutz von Nutzern bei

Wenn Nutzer Gemini auffordern, Inhalte wie E‑Mails oder Dokumente zusammenzufassen, analysiert Gemini diese Inhalte im Hinblick auf Bedrohungen, bevor Prompts ausgeführt werden. Wenn Gemini Bedrohungen erkennt, werden diese Inhalte nicht für die Generierung einer Antwort verwendet.

Beispiel:

  • Wenn Sie Gemini auffordern, E‑Mail-Nachrichten zusammenzufassen, und eine dieser Nachrichten schädliche Prompts enthält, wird diese E‑Mail-Nachricht nicht in die Zusammenfassung von Gemini aufgenommen.
  • Wenn Sie Gemini auffordern, Inhalte in Dateien wie Dokumenten zu verwenden, prüft Gemini diese Dateien auf verdächtige Links oder Prompts, bevor Aktionen ausgeführt werden.

Was Nutzer erwartet

Wenn Bedrohungen erkannt werden, zeigt Gemini Nutzern die folgenden Arten von Benachrichtigungen an:

Bedrohung Benachrichtigung an Nutzer
Alle in einem Prompt genannten E‑Mails oder Dokumente sind verdächtig oder eine Unterhaltung enthält schädliche Anweisungen, mit denen versucht wird, einen Prompt-Injection-Angriff auszuführen Ein Sicherheitsrisiko wurde erkannt und blockiert
Einige Nachrichten oder Dokumente sind verdächtig Einige Inhalte wurden aus Sicherheitsgründen ausgeschlossen

Was Nutzer tun können

Nutzer können Google Feedback senden, wenn sie Bedenken hinsichtlich der Sicherheitsrisiken von generativer KI haben oder der Meinung sind, dass Gemini einen Fehler gemacht hat.

Eine entsprechende Anleitung finden Sie hier:


Google, Google Workspace und zugehörige Warenzeichen und Logos sind Marken von Google LLC. Alle anderen Unternehmens- und Produktnamen sind Marken der jeweiligen Unternehmen.