Usługa Gemini stała się zaawansowanym asystentem dla biznesowych użytkowników Google Workspace. Tysiące organizacji używa Gemini do tworzenia treści, podsumowywania danych, przeprowadzania burz mózgów i zwiększania produktywności. W tym samym czasie zaczęły pojawiać się zagrożenia dla platform generatywnej AI.
Aby zapewnić ochronę przed tymi zagrożeniami, Google stosuje skuteczne zabezpieczenia. Z tego artykułu dowiesz się, co się dzieje, gdy te zabezpieczenia są stosowane, i jak mogą one wpłynąć na wygodę użytkowników Google Workspace z Gemini i aplikacji z Gemini.
Informacje dostępne na tej stronie
- Nowe zagrożenia związane z generatywną AI
- Jak Gemini pomaga chronić użytkowników
- Czego mogą oczekiwać użytkownicy
- Co powinni zrobić użytkownicy
Nowe zagrożenia związane z generatywną AI
Nowe zagrożenia związane z generatywną AI obejmują podejrzane adresy URL i szkodliwe prompty. Podobnie jak złośliwe oprogramowanie i wyłudzanie informacji te zagrożenia mogą być trudne do wykrycia przez użytkowników. Osoby przeprowadzające atak próbują ukryć szkodliwe prompty w wiadomościach e-mail lub dokumentach, które wyglądają na autentyczne, aby spowodować, żeby generatywna AI zrobiła coś szkodliwego lub niezgodnego z zamiarami użytkownika.
Szkodliwe prompty mogą na przykład zawierać prośby, żeby generatywna AI udostępniła dane osobowe lub wykonała nieautoryzowane zadania.
Jak Gemini pomaga chronić użytkowników
Gdy użytkownicy proszą Gemini o podsumowanie treści, takich jak e-maile czy dokumenty, Gemini analizuje je pod kątem zagrożeń, zanim podejmie działanie. Gdy wykryje zagrożenia w treściach, nie używa ich do wygenerowania odpowiedzi.
Przykład:
- Jeśli poprosisz Gemini o podsumowanie wiadomości e-mail, a jedna z nich zawiera szkodliwe prompty, ta wiadomość zostanie wykluczona z podsumowania.
- Jeśli poprosisz Gemini o wykorzystanie treści z plików, takich jak dokumenty, przed wykonaniem Twojej prośby Gemini sprawdzi, czy w tych plikach nie ma podejrzanych linków lub promptów.
Czego mogą oczekiwać użytkownicy
W przypadku wykrycia zagrożeń Gemini wyświetla użytkownikom te typy powiadomień:
| Zagrożenie | Powiadomienie dla użytkowników |
|---|---|
| Wszystkie e-maile lub dokumenty przywołane w prompcie są podejrzane albo rozmowa zawiera szkodliwe instrukcje mające na celu przeprowadzenie ataku polegającego na wstrzykiwaniu promptów | Wykryto i zablokowano zagrożenie dla bezpieczeństwa |
| Niektóre wiadomości lub dokumenty są podejrzane | Niektóre treści zostały wykluczone ze względów bezpieczeństwa |
Co powinni zrobić użytkownicy
Jeśli użytkownicy mają obawy dotyczące zagrożeń związanych z bezpieczeństwem generatywnej AI lub uważają, że usługa Gemini popełniła błąd, powinni przesłać opinię do Google.
Instrukcje, jak to zrobić, znajdziesz tutaj:
Powiązane artykuły
- Zarządzanie Google Workspace z Gemini w organizacji
- Najczęstsze pytania dotyczące Google Workspace z Gemini
- Wskazówki dotyczące korzystania z Gemini w pracy lub na danym stanowisku
- Dowiedz się, jak Google chroni użytkowników generatywnej AI:
Google, Google Workspace oraz powiązane znaki i logotypy są znakami towarowymi firmy Google LLC. Wszystkie inne nazwy firm i produktów są znakami towarowymi należącymi do ich właścicieli.