Gemini הפך לשותף היעיל לעבודה למשתמשי Google Workspace העסקיים. אלפי ארגונים מסתמכים על Gemini כדי ליצור תוכן, לסכם נתונים, לבצע סיעור מוחות ולשפר את הפרודוקטיביות. במקביל, איומים חדשים החלו להתמקד בפלטפורמות של AI גרנטיבי.
כדי להתגונן מפני האיומים האלה, Google משתמשת במסגרת חזקה של אמצעי אבטחה. במאמר הזה מוסבר מה קורה בפועל עם אמצעי האבטחה האלה, ואיך הם עשויים להשפיע על חוויית המשתמש ב-Google Workspace עם Gemini ובממשקי Gemini.
בדף הזה
- מידע על איומים חדשים על AI גנרטיבי
- איך Gemini עוזר להגן על המשתמשים
- מה מוצג למשתמשים
- מה המשתמשים צריכים לעשות
מידע על איומים חדשים על AI גנרטיבי
האיומים החדשים על AI גנרטיבי כוללים כתובות URL חשודות והנחיות זדוניות. בדומה לתוכנות זדוניות ולתרמיות פישינג, למשתמשים לא תמיד קל לזהות את האיומים האלה. התוקפים מנסים להסתיר הנחיות זדוניות בהודעות אימייל או במסמכים שנראים לגיטימיים, במטרה לגרום ל-AI הגנרטיבי לבצע פעולות בלתי רצויות או מזיקות.
לדוגמה, הנחיות זדוניות עשויות לבקש מה-AI הגנרטיבי לשתף מידע אישי, או לבצע משימות ללא רשות.
איך Gemini עוזר להגן על המשתמשים
כשהמשתמשים מבקשים מ-Gemini לסכם תוכן כמו הודעות אימייל או מסמכים, Gemini בודק אם יש בתוכן איומים לפני שהוא פועל. אם Gemini מזהה איומים בתוכן, הוא לא משתמש בתוכן הזה כדי ליצור תשובה.
לדוגמה:
- אם מבקשים מ-Gemini לסכם הודעות אימייל, ואחת מההודעות האלה מכילה הנחיות זדוניות, ההודעה לא תיכלל בסיכום של Gemini.
- אם נותנים ל-Gemini הנחיה להשתמש בתוכן שנמצא בקבצים, כמו מסמכים, Gemini יבדוק את הקבצים האלה כדי לזהות הנחיות או קישורים חשודים לפני שהוא יעבד את הבקשה.
מה מוצג למשתמשים
כשמתגלים איומים, Gemini מציג למשתמשים את סוגי ההתראות הבאים:
| האיום | התראה למשתמשים |
|---|---|
| יש אלמנטים חשודים בכל הודעות האימייל או המסמכים שההנחיות מתייחסות אליהם, או יש שיחה שמכילה הוראות זדוניות שמנסות לבצע מתקפת החדרת הנחיות | סיכון אבטחה זוהה ונחסם. |
| חלק מההודעות או מהמסמכים חשודים | חלק מהתוכן הוחרג מסיבות אבטחה |
מה המשתמשים צריכים לעשות
אם יש למשתמשים חששות לגבי סיכוני אבטחה שקשורים ל-AI גנרטיבי, או אם הם חושבים ש-Gemini עשה טעות, הם צריכים לשלוח משוב ל-Google.
הוראות מפורטות במאמרים הבאים:
נושאים קשורים
- איך ארגונים מנהלים את Google Workspace עם Gemini
- שאלות נפוצות לגבי Google Workspace עם Gemini
- טיפים לשימוש ב-Gemini בעבודה או בתפקיד
- איך Google מגנה על משתמשי AI גנרטיבי באפליקציות הבאות:
Google, Google Workspace וסימנים וסמלי לוגו קשורים הם סימנים מסחריים של Google LLC. כל שמות החברות והמוצרים האחרים הם סימנים מסחריים של החברות שאליהן הם משויכים.