Gemini är nu en kraftfull samarbetspartner för Google Workspace-företagsanvändare. Tusentals organisationer använder Gemini för att skapa innehåll, sammanfatta data, brainstorma och öka produktiviteten. Samtidigt har nya hot börjat riktas mot plattformar för generativ AI.
Google använder ett robust ramverk med säkerhetsåtgärder för att skydda mot dessa hot. I den här artikeln beskriver vi vad som händer när säkerhetsåtgärderna tillämpas och hur de kan påverka användarupplevelsen i Google Workspace med Gemini och Gemini-apparna.
På den här sidan
- Om nya hot från generativ AI
- Så skyddar Gemini användarna
- Det här kan användarna förvänta sig
- Det här bör användarna göra
Om nya hot från generativ AI
Bland de nya hoten från generativ AI finns misstänkta webbadresser och skadliga promptar. I likhet med skadlig kod och nätfiske kan det vara svårt för användarna att upptäcka hoten. Angripare försöker dölja skadliga promptar i e-postmeddelanden eller dokument som ser legitima ut i syfte att få generativ AI att göra något oavsiktligt eller skadligt.
Skadliga promptar kan till exempel be generativ AI att dela personliga uppgifter eller utföra obehöriga åtgärder.
Så bidrar Gemini till att skydda användarna
När användare ber Gemini att sammanfatta innehåll, till exempel e-postmeddelanden eller dokument, analyserar Gemini innehållet för att se om det finns hot innan åtgärder vidtas. När Gemini identifierar hot i innehåll utesluts det från användning när svar genereras.
Exempel:
- Om du ber Gemini att sammanfatta e-postmeddelanden och ett av meddelandena innehåller skadliga promptar utesluts det från Geminis sammanfattning.
- Om du ber Gemini att använda innehåll i filer, till exempel dokument, söker Gemini efter misstänkta länkar eller promptar i filerna innan begäran behandlas.
Det här kan användarna förvänta sig
När hot upptäcks visar Gemini följande typer av aviseringar för användarna:
| Hot | Avisering till användare |
|---|---|
| Alla e-postmeddelanden eller dokument som hänvisas till i en prompt är misstänkta eller så innehåller en konversation skadliga anvisningar som försöker utföra en promptinjektionsattack | En säkerhetsrisk har identifierats och blockerats |
| Vissa meddelanden eller dokument är misstänkta | En del innehåll har uteslutits av säkerhetsskäl |
Det här bör användarna göra
Användarna bör skicka feedback till Google om de är oroliga över säkerhetsrisker med generativ AI eller om de anser att Gemini har gjort ett misstag.
Anvisningar finns här:
Relaterade ämnen
- Hantera Google Workspace med Gemini för organisationen
- Vanliga frågor om Google Workspace med Gemini
- Tips om att använda Gemini i ditt jobb eller din roll
- Läs mer om hur Google skyddar användare av generativ AI i
Google, Google Workspace och tillhörande märken och logotyper är varumärken som tillhör Google LLC. Alla andra företags- och produktnamn är varumärken som tillhör de företag som de är kopplade till.