Gemini se ha convertido en un potente colaborador para los usuarios empresariales de Google Workspace. Miles de organizaciones confían en Gemini para crear contenido, resumir datos, explorar ideas y aumentar la productividad. Al mismo tiempo, las amenazas emergentes han empezado a atacar a las plataformas de IA generativa.
Para defenderse de estas amenazas, Google utiliza un marco robusto de medidas de seguridad. En este artículo se explica qué ocurre cuando se aplican estas medidas de seguridad y cómo pueden afectar a la experiencia de usuario con Google Workspace con Gemini y las aplicaciones de Gemini.
En esta página
- Acerca de las amenazas emergentes para la IA generativa
- Cómo contribuye Gemini a proteger a los usuarios
- Qué pueden esperar los usuarios
- Qué deben hacer los usuarios
Acerca de las amenazas emergentes para la IA generativa
Entre las nuevas amenazas que surgen para la IA generativa se incluyen las URLs sospechosas y las peticiones maliciosas. Al igual que ocurre con el malware y las estafas de phishing, a los usuarios les puede resultar difícil detectar estas amenazas. Los atacantes intentan ocultar peticiones maliciosas en mensajes de correo o documentos que parecen legítimos para que la IA generativa haga algo no deseado o dañino.
Por ejemplo, las peticiones maliciosas pueden pedirle a la IA generativa que comparta información personal o que realice tareas no autorizadas.
Cómo contribuye Gemini a proteger a los usuarios
Cuando los usuarios piden a Gemini que resuma contenido, como mensajes de correo electrónico o documentos, Gemini analiza ese contenido en busca de amenazas antes de tomar medidas. Cuando Gemini identifica amenazas en el contenido, lo excluye y no lo usa para generar una respuesta.
Por ejemplo:
- Si pides a Gemini que resuma los mensajes de correo y uno de ellos contiene peticiones maliciosas, ese mensaje se excluirá del resumen de Gemini.
- Si pides a Gemini que use contenido de archivos como documentos, Gemini comprueba si hay enlaces o peticiones sospechosas en esos archivos antes de procesar tu solicitud.
Qué pueden esperar los usuarios
Cuando se detectan amenazas, Gemini muestra los siguientes tipos de notificaciones a los usuarios:
| Amenaza | Notificación a los usuarios |
|---|---|
| Todos los mensajes de correo o documentos referenciados en una petición son sospechosos, o bien una conversación contiene instrucciones maliciosas que intentan realizar un ataque de inyección de peticiones | Se ha identificado y bloqueado un riesgo de seguridad |
| Algunos mensajes o documentos son sospechosos | Se ha excluido parte del contenido por motivos de seguridad |
Qué deben hacer los usuarios
Los usuarios deben enviar comentarios a Google si les preocupan los riesgos de seguridad de la IA generativa o si creen que Gemini ha cometido un error.
Para obtener instrucciones, consulta:
Temas relacionados
- Gestionar Google Workspace con Gemini en tu organización
- Preguntas frecuentes sobre Google Workspace con Gemini
- Consejos para usar Gemini en tu puesto de trabajo
- Consulta cómo protege Google a los usuarios de la IA generativa en:
Google, Google Workspace y las marcas y los logotipos relacionados son marcas de Google LLC. Todos los demás nombres de empresas y productos son marcas de las empresas con las que están asociadas.