המאמר הזה מיועד לאדמינים ב-Google Workspace. משתמשי Gemini: במאמרים הבאים מוסבר איך Google מגינה עליכם כשאתם משתמשים באפליקציית Gemini או ב-Gemini באפליקציות של Workspace: Gmail, עורכי Docs, Drive ו-Chat.
Gemini הוא שותף יעיל של המשתמשים העסקיים ב-Google Workspace. אלפי ארגונים מסתמכים על Gemini כדי ליצור תוכן, לסכם נתונים, לעשות סיעור מוחות ולשפר את הפרודוקטיביות. במקביל, איומים חדשים התחילו להתמקד בפלטפורמות של AI גרנטיבי.
כדי להתגונן מפני האיומים האלה, Google משתמשת במערכת חזקה של אמצעי אבטחה. במאמר הזה מוסבר מה אמצעי האבטחה האלה עושים, ואיך הם עשויים להשפיע על חוויית המשתמש ב-Google Workspace עם Gemini ובממשקי Gemini.
הנושאים בדף
- מידע על איומים חדשים על AI גנרטיבי
- איך Gemini עוזר להגן על המשתמשים
- אילו התראות מוצגות למשתמשים
- מה המשתמשים יכולים לעשות
מידע על איומים חדשים על AI גנרטיבי
האיומים החדשים נגד פלטפורמות AI כוללים כתובות URL חשודות ופרומפטים זדוניים. בדומה לתוכנות זדוניות ולתרמיות פישינג, למשתמשים לא תמיד קל לזהות את האיומים האלה. התוקפים מנסים להסתיר פרומפטים זדוניים בהודעות אימייל או במסמכים שנראים לגיטימיים, במטרה לגרום ל-AI הגנרטיבי לבצע פעולות מזיקות או לא רצויות.
לדוגמה, פרומפטים כאלה עלולים לבקש מה-AI הגנרטיבי לשתף מידע אישי או לבצע משימות בלי רשות.
איך Gemini עוזר להגן על המשתמשים
כשמשתמשים מבקשים מ-Gemini לסכם תוכן כמו הודעות אימייל או מסמכים, הוא קודם כל בודק את התוכן. אם Gemini מזהה איום, הוא לא משתמש בתוכן הזה כדי ליצור תשובה.
לדוגמה:
- אם תבקשו מ-Gemini לסכם כמה הודעות אימייל, ואחת מההודעות האלה מכילה פרומפטים זדוניים, היא לא תיכלל בסיכום.
- אם תבקשו מ-Gemini להשתמש בתוכן שנמצא בקבצים, כמו מסמכים, הוא יבדוק אם יש פרומפטים או קישורים חשודים בקבצים האלה לפני שיטפל בבקשה.
אילו התראות מוצגות למשתמשים
כש-Gemini מזהה איומים, הוא מציג למשתמשים את סוגי ההתראות הבאים:
| האיום | ההתראה למשתמשים |
|---|---|
| יש אלמנטים חשודים בכל הודעות האימייל או המסמכים שהפרומפטים מתייחסים אליהם, או שיחה שמכילה הוראות זדוניות שמנסות לבצע מתקפת החדרת פרומפטים | סיכון אבטחה זוהה ונחסם |
| חלק מההודעות או מהמסמכים חשודים | חלק מהתוכן הוחרג מסיבות אבטחה |
מה המשתמשים יכולים לעשות
אם המשתמשים חוששים מפני סיכוני אבטחה שקשורים ל-AI גנרטיבי, או אם לדעתם Gemini עשה טעות, הם יכולים לשלוח משוב ל-Google.
ההוראות מפורטות במאמרים הבאים:
נושאים קשורים
- איך ארגונים מנהלים את Google Workspace עם Gemini
- שאלות נפוצות לגבי Google Workspace עם Gemini
- טיפים לשימוש ב-Gemini בעבודה או בתפקיד
- איך Google מגנה על משתמשי AI גנרטיבי באפליקציות הבאות:
Google, Google Workspace וסימנים וסמלי לוגו קשורים הם סימנים מסחריים של Google LLC. כל שמות החברות והמוצרים האחרים הם סימנים מסחריים של החברות שאליהן הם משויכים.