Gemini è diventato un partner di collaborazione efficace per gli utenti aziendali di Google Workspace. Migliaia di organizzazioni si affidano a Gemini per creare contenuti, riepilogare i dati, fare brainstorming e aumentare la produttività. Allo stesso tempo, delle nuove minacce hanno iniziato a prendere di mira le piattaforme di AI generativa.
Per difendersi da queste minacce, Google utilizza un solido framework di misure di sicurezza. Questo articolo spiega cosa succede quando vengono applicate queste misure di sicurezza e in che modo potrebbero influire sull'esperienza utente con Google Workspace con Gemini e le app Gemini.
In questa pagina
- Informazioni sulle minacce emergenti legate all'AI generativa
- In che modo Gemini contribuisce a proteggere gli utenti
- Che cosa possono aspettarsi gli utenti
- Che cosa devono fare gli utenti
Informazioni sulle minacce emergenti legate all'AI generativa
Le minacce emergenti legate all'AI generativa includono URL sospetti e prompt dannosi. Come per i malware e le frodi di phishing, queste minacce possono essere difficili da individuare per gli utenti. Gli attaccanti cercano di nascondere prompt dannosi in documenti o email dall'aspetto legittimo, con l'obiettivo di indurre l'AI generativa a fare qualcosa di indesiderato o dannoso.
Ad esempio, i prompt dannosi potrebbero chiedere all'AI generativa di condividere informazioni personali o di eseguire attività non autorizzate.
In che modo Gemini contribuisce a proteggere gli utenti
Quando gli utenti chiedono a Gemini di riassumere contenuti come email o documenti, Gemini analizza i contenuti per rilevare eventuali minacce prima di intervenire. Quando Gemini identifica minacce nei contenuti, ne impedisce l'utilizzo nella generazione di una risposta.
Ad esempio:
- Se chiedi a Gemini di riassumere delle email e una di queste contiene prompt dannosi, il messaggio viene escluso dal riepilogo di Gemini.
- Se chiedi a Gemini di utilizzare i contenuti dei file, ad esempio dei documenti, Gemini controlla la presenza di link o prompt sospetti prima di elaborare la tua richiesta.
Che cosa possono aspettarsi gli utenti
Quando vengono rilevate minacce, Gemini mostra agli utenti i seguenti tipi di notifiche:
| Minaccia | Notifica agli utenti |
|---|---|
| Tutte le email o i documenti a cui si fa riferimento in un prompt sono sospetti oppure una conversazione contiene istruzioni dannose che tentano un attacco di prompt injection | È stato identificato e bloccato un rischio per la sicurezza |
| Alcune email o documenti sono sospetti | Alcuni contenuti sono stati esclusi per motivi di sicurezza |
Che cosa devono fare gli utenti
Gli utenti devono inviare un feedback a Google se sono preoccupati a causa dei rischi per la sicurezza relativi all'AI generativa o se ritengono che Gemini abbia commesso un errore.
Per le istruzioni, vai a:
Argomenti correlati
- Gestisci Google Workspace con Gemini per la tua organizzazione
- Domande frequenti su Google Workspace con Gemini
- Suggerimenti per l'utilizzo di Gemini nel tuo lavoro o ruolo
- Scopri in che modo Google protegge gli utenti che utilizzano l'AI generativa in:
Google, Google Workspace e i marchi e i loghi correlati sono marchi di Google LLC. Tutti gli altri nomi di società e prodotti sono marchi delle società a cui sono associati.