Gemini telah menjadi partner kolaborasi yang efektif bagi pengguna bisnis Google Workspace. Ribuan organisasi mengandalkan Gemini untuk membuat konten, meringkas data, berdiskusi, dan meningkatkan produktivitas. Sementara itu, muncul ancaman baru yang mulai mengincar platform AI generatif.
Untuk memberikan perlindungan terhadap ancaman ini, Google menggunakan framework tindakan keamanan yang kuat. Artikel ini menjelaskan hal yang terjadi saat tindakan keamanan tersebut diterapkan, dan potensi efeknya terhadap pengalaman pengguna Google Workspace dengan Gemini dan Aplikasi Gemini.
Di halaman ini
- Tentang ancaman yang muncul terhadap AI generatif
- Cara Gemini membantu melindungi pengguna
- Yang dapat diharapkan pengguna
- Yang harus dilakukan pengguna
Tentang ancaman yang muncul terhadap AI generatif
Ancaman yang muncul terhadap AI generatif mencakup URL yang mencurigakan dan perintah berbahaya. Seperti scam phishing dan malware, ancaman ini bisa sulit dikenali oleh pengguna. Penyerang mencoba menyembunyikan perintah berbahaya dalam pesan email atau dokumen yang tampak sah. Tujuannya adalah membuat AI generatif melakukan sesuatu yang tidak diinginkan atau berbahaya.
Misalnya, perintah berbahaya mungkin meminta AI generatif membagikan informasi pribadi, atau melakukan tindakan di luar izin.
Cara Gemini membantu melindungi pengguna
Saat pengguna meminta Gemini meringkas konten seperti pesan email atau dokumen, Gemini akan menganalisis konten tersebut untuk menemukan ancaman sebelum mengambil tindakan. Jika Gemini mengidentifikasi ancaman dalam konten, Gemini akan mengecualikan konten tersebut agar tidak digunakan untuk membuat respons.
Contoh:
- Jika Anda meminta Gemini meringkas pesan email yang salah satunya berisi perintah berbahaya, pesan tersebut akan dikecualikan dari ringkasan Gemini.
- Jika Anda meminta Gemini menggunakan konten dalam file, seperti dokumen, Gemini akan memeriksa file tersebut untuk menemukan link atau perintah yang mencurigakan sebelum memproses permintaan Anda.
Yang dapat diharapkan pengguna
Saat ancaman terdeteksi, Gemini akan menampilkan jenis notifikasi berikut kepada pengguna:
| Ancaman | Notifikasi untuk pengguna |
|---|---|
| Semua pesan email atau dokumen yang direferensikan dalam perintah mencurigakan, atau percakapan berisi petunjuk berbahaya yang mencoba melakukan serangan injeksi perintah | Risiko keamanan teridentifikasi dan diblokir |
| Beberapa pesan atau dokumen mencurigakan | Beberapa konten dikecualikan karena alasan keamanan |
Yang harus dilakukan pengguna
Pengguna harus mengirimkan masukan ke Google jika mereka mengkhawatirkan risiko keamanan AI generatif, atau jika mereka merasa Gemini melakukan kesalahan.
Untuk mengetahui petunjuknya, buka:
Topik terkait
- Mengelola Google Workspace dengan Gemini untuk organisasi Anda
- FAQ Google Workspace dengan Gemini
- Tips penggunaan Gemini dalam pekerjaan atau peran Anda
- Pelajari cara Google melindungi pengguna AI generatif di:
Google, Google Workspace, serta merek dan logo terkait adalah merek dagang Google LLC. Semua nama perusahaan dan produk lainnya adalah merek dagang milik setiap perusahaan terkait.