Google 如何協助 Gemini 使用者防範惡意內容和提示詞注入攻擊

本文專供 Google Workspace 管理員參考。Gemini 使用者請參閱其他文章，瞭解使用 Gemini 應用程式或 Workspace 應用程式 (Gmail、文件編輯器、雲端硬碟和 Chat) 中的 Gemini 時，Google 提供哪些保護措施。

Gemini 已成為 Google Workspace 企業使用者強大的協作夥伴。成千上萬的組織都仰賴 Gemini 來製作內容、彙整資料、發想點子及提高效率。但與此同時，新興威脅也開始將目標鎖定生成式 AI 平台。

為防範這些威脅，Google 採用了完善的安全防護機制。本文將說明這些安全措施啟用後的運作方式，以及 Google Workspace with Gemini 和 Gemini 系列應用程式的使用者體驗可能受到哪些影響。

本頁內容

新興生成式 AI 威脅簡介

新興生成式 AI 威脅包含可疑網址和惡意提示詞。這些危害就如同惡意軟體和網路釣魚詐騙，使用者往往難以察覺。攻擊者會將惡意提示詞隱藏在看似正常的電子郵件訊息或文件中，誘使生成式 AI 執行非預期或有害的操作。

舉例來說，惡意提示詞可能要求生成式 AI 分享個人資訊，或是執行未經授權的工作。

Gemini 如何保護使用者

當使用者要求彙整文件或電子郵件訊息等內容時，Gemini 會先分析其中是否含有威脅，確認安全後才會採取行動。若發現威脅，Gemini 就不會用相關內容生成回覆。

例如：

  • 若要求 Gemini 彙整電子郵件訊息，而其中一封郵件包含惡意提示詞，該郵件就不會用於生成摘要。
  • 若要求使用文件或其他檔案中的內容，Gemini 會在處理要求前，先檢查這些檔案是否包含可疑連結或提示詞。

使用者可能遇到的情況

偵測到威脅時，Gemini 會向使用者顯示以下幾類通知：

威脅 給使用者的通知
提示詞中提及的所有文件/電子郵件訊息都含有可疑內容，或對話中包含試圖發起提示詞注入式攻擊的惡意指示 偵測到安全風險，已封鎖
部分郵件/文件含有可疑內容 基於安全考量，已排除部分內容

使用者應採取的行動

如果使用者對生成式 AI 的安全風險有疑慮，或認為 Gemini 的判斷有誤，可以向 Google 提供意見。

如需操作說明，請參閱以下文章：


Google、Google Workspace 和其他相關符號及標誌均為 Google LLC 的商標。所有其他公司名稱和產品名稱則為相關公司的商標。