كيف تساعد Google في حماية مستخدمي Gemini من المحتوى الضار والهجمات حقن الطلبات

هذه المقالة مُخصَّصة لمشرفي حسابات Google Workspace. مستخدمو Gemini: اكتشِفوا كيف تحميكم Google عند استخدام تطبيق Gemini أو "Gemini في تطبيقات Workspace‏"، مثل Gmail وأدوات تحرير المستندات وDrive وChat.

أصبح Gemini شريكًا تعاونيًا فعّالاً لمستخدمي Google Workspace في المؤسسات. تعتمد آلاف المؤسسات على Gemini لإنشاء المحتوى وتلخيص البيانات واستلهام الأفكار وزيادة الإنتاجية. وفي الوقت نفسه، بدأت التهديدات الناشئة تستهدف منصات الذكاء الاصطناعي التوليدي.

لحماية المستخدمين من هذه التهديدات، تستخدم Google إطار عمل صارمًا لإجراءات الأمان. تشرح هذه المقالة ما يحدث عند تطبيق هذه الإجراءات، وكيف يمكن أن تؤثر في تجربة المستخدم مع "Google Workspace مع Gemini" و"تطبيقات Gemini".

في هذه الصفحة

لمحة عن التهديدات الناشئة المرتبطة بالذكاء الاصطناعي التوليدي

تشمل التهديدات الناشئة المرتبطة بالذكاء الاصطناعي التوليدي عناوين URL مريبة وطلبات ضارة. وعلى غرار البرامج الضارة وعمليات التصيّد الاحتيالي، قد يصعب على المستخدمين رصد هذه التهديدات. يحاول المهاجِمون إخفاء الطلبات الضارة ضمن رسائل إلكترونية أو مستندات تبدو موثوقة بهدف خداع الذكاء الاصطناعي التوليدي لتنفيذ إجراء غير مطلوب أو ضار.

في الطلبات الضارة مثلاً، قد يُطلب من الذكاء الاصطناعي التوليدي مشاركة معلومات شخصية أو تنفيذ مهام غير مصرّح بها.

كيف يساعد Gemini في حماية المستخدمين

عندما يطلب المستخدمون من Gemini تلخيص محتوى، مثل الرسائل الإلكترونية أو المستندات، يحلّل Gemini ذلك المحتوى قبل اتّخاذ أي إجراء، ولا يستخدمه لإنشاء إجابة في حال رصد أي تهديدات.

على سبيل المثال:

  • إذا طلبت من Gemini تلخيص رسائل إلكترونية، وكانت إحدى تلك الرسائل تحتوي على طلبات ضارة، لن يستخدمها Gemini في الملخص الذي ينشئه.
  • إذا طلبت من Gemini استخدام محتوى في الملفات، مثل المستندات، سيتفحص هذه الملفات بحثًا عن روابط أو طلبات مريبة قبل معالجة طلبك.

ما قد يظهر للمستخدمين

عند رصد التهديدات، يعرض Gemini أنواع الإشعارات التالية للمستخدمين:

التهديد الإشعار المرسَل إلى المستخدمين
تبيّن أنّ كل الرسائل الإلكترونية أو المستندات المُشار إليها في طلب معيّن مريبة، أو أنّ إحدى المحادثات تحتوي على تعليمات ضارة تحاول تنفيذ هجمة بحقن الطلبات تم رصد خطر أمني وحظره
تبيّن أنّ بعض الرسائل أو المستندات مريبة تم استبعاد بعض المحتوى لأسباب أمنية

الإجراءات التي يجب أن يتّخذها المستخدمون

على المستخدمين إرسال الملاحظات إلى Google إذا كانوا قلقين بشأن مخاطر أمان الذكاء الاصطناعي التوليدي، أو إذا كانوا يعتقدون أنّ Gemini قد ارتكب خطأ.

للحصول على التعليمات، يُرجى الانتقال إلى:


إنّ Google وGoogle Workspace والعلامات والشعارات ذات الصلة هي علامات تجارية (TM) تابعة لشركة Google LLC. وجميع أسماء الشركات والمنتجات الأخرى هي علامات تجارية (TM) تملكها الشركات ذات الصلة بها.