Как анализировать сообщения Chat для модерации контента и защиты данных

Инструмент "Анализ безопасности"

Как администратор, вы можете с помощью инструмента "Анализ безопасности" отслеживать действия пользователей организации в Chat, в том числе сообщения и файлы, отправляемые за пределы корпоративного домена. С помощью этого инструмента можно просматривать отчеты о неприемлемом контенте, например оскорблениях, спаме или деликатном контенте, и создавать правила защиты данных, чтобы предотвращать оскорбления и утечки деликатного контента.

Как проверять сообщения Chat, на которые поступили жалобы

Поддерживаемые версии:

  • Проверка сообщений Chat: Frontline Standard и Frontline Plus; Enterprise Standard и Enterprise Plus; Education Standard и Education Plus; Enterprise Essentials Plus; Cloud Identity Premium.
  • Отправка жалоб на контент в Chat: Frontline Plus, Enterprise Plus, Education Standard и Education Plus.

Если вы включите отправку жалоб на контент в Chat, пользователи смогут жаловаться на сообщения, которые содержат неприемлемый контент или нарушают правила организации. С помощью инструмента "Анализ безопасности" можно проверять сообщения Chat, на которые поступила жалоба.

Примечание. Как администратор, вы можете отслеживать случаи неприемлемого контента в сообщениях Chat, создав правило активности, которое будет оповещать вас о событиях Отправка жалобы на сообщение. Подробнее о том, как создавать правила активности и управлять ими…

Если сообщение, на которое поступила жалоба, было опубликовано в чат-группе Google Chat, вы можете связаться с менеджером чат-группы, у которого есть разрешения на удаление сообщения, или назначить нового менеджера чат-группы с необходимым уровнем доступа. Предпринять необходимые действия в инструменте "Анализ безопасности" нельзя.

Чтобы изучить сообщения Chat, на которые поступили жалобы:

  1. В консоли администратора Google нажмите на значок меню > Безопасность > Центр безопасности > Инструмент "Анализ безопасности".

    У вас должны быть права администратора с доступом к центру безопасности.

  2. Нажмите Источник данных и выберите События журнала Chat.
  3. Нажмите Добавить условие.
  4. Нажмите Атрибут > Событие.
  5. В третьем раскрывающемся списке выберите Отправка жалобы на сообщение.
  6. Нажмите Поиск.
    В результатах поиска в нижней части страницы можно посмотреть список сообщений, на которые поступили жалобы.
  7. Чтобы изучить дополнительные сведения, нажмите на идентификатор сообщения для любой строки в результатах поиска.
  8. При необходимости введите обоснование потребности в просмотре контента Chat и нажмите Подтвердить.
    Появится боковая панель с дополнительными сведениями для анализа:

Вкладка "Сведения о сообщении" содержит само сообщение Chat. Кроме того, на ней есть такие важные сведения, как отправитель сообщения, дата отправки сообщения, его идентификатор и все связанные с ним жалобы и прикрепленные файлы. Контент в прикрепленных файлах доступен для скачивания.

Вкладка "Информация о чате" содержит информацию о чате в Google Chat, в том числе о его типе (например, 1:1 или чат-группа). Примечание. Для чат-группы будет показано до пяти адресов электронной почты ее менеджеров, и при необходимости вы сможете связаться с этими менеджерами, чтобы попросить их выполнить нужные действия.

Вкладка "Расшифровка чата" позволяет узнать контекст чата, в том числе посмотреть текст некоторых сообщений, а также содержит сведения о статусе сообщений (были ли они изменены или удалены). У сообщения будет пометка о наличии жалобы только в том случае, если жалоба поступила на его текущую версию. На этой вкладке нельзя посмотреть или скачать контент в прикрепленных файлах.

Примечание. В инструменте "Анализ безопасности" не отображаются цитаты в ответах Chat.

Как создать правило защиты данных для сообщений Chat

Эта функция доступна в версиях Frontline Plus, Enterprise Standard, Enterprise Plus, Education Standard, Education Plus и Cloud Identity Premium. Сравнение версий

Чтобы с помощью инструмента "Анализ безопасности" отслеживать и предотвращать утечки данных Chat, настройте правило защиты данных для Chat. Это специальное правило, которое можно создать на странице правил. Оно позволяет получать оповещения об определенных действиях в домене, связанных с использованием сообщений Chat.

Настроив правило защиты данных, вы можете использовать инструмент "Анализ безопасности", чтобы изучать сообщения Chat в организации.

Примечание. Возможно, администратор уже настроил правило защиты данных для сообщений Chat. В противном случае вам потребуется сделать это самостоятельно, Подробнее о том, как создать правила защиты данных…

Эта функция доступна в версиях Frontline Standard, Frontline Plus, Enterprise Standard, Enterprise Plus, Education Standard, Education Plus, Enterprise Essentials Plus и Cloud Identity Premium. Сравнение версий

Чтобы выполнить поиск в инструменте "Анализ безопасности", сначала выберите источник данных. Затем при необходимости добавьте одно или несколько условий поиска. Для каждого условия выберите атрибут, оператор и значение.

Примечание. Описанные ниже действия – это пример поиска сообщений Chat для их изучения. Вы можете использовать другие условия или не указывать их вообще.

Чтобы выполнить поиск событий журнала правил в инструменте "Анализ безопасности":

  1. В консоли администратора Google нажмите на значок меню > Безопасность > Центр безопасности > Инструмент "Анализ безопасности".

    У вас должны быть права администратора с доступом к центру безопасности.

  2. Нажмите Источник данных и выберите События журнала правил.
  3. Нажмите Добавить условие > Атрибут > Дата.

    Укажите диапазон дат.

  4. Нажмите Добавить условие > Атрибут > Тип правила.

    Выберите DLP.

  5. Нажмите Поиск.

    Результаты поиска появятся внизу страницы.

  6. Чтобы сохранить анализ, нажмите Сохранить > введите название и описание > нажмите Сохранить.

    Примечание. Сохранив результаты поиска, вы можете изучать одни и те же данные несколько раз.

Как проанализировать сообщения Chat, активирующие правила защиты данных

После создания правила защиты данных для сообщений Chat и поиска событий журнала правил вы можете изучать сообщения Chat в результатах поиска анализа.

Чтобы изучить сообщения Chat:

  1. В консоли администратора Google нажмите на значок меню > Безопасность > Центр безопасности > Инструмент "Анализ безопасности".

    У вас должны быть права администратора с доступом к центру безопасности.

  2. В меню справа выберите Посмотреть список анализов.
  3. Нажмите на анализ в списке (выберите анализ, созданный с помощью указаний в разделе выше).
  4. Нажмите Поиск.

    В результатах поиска внизу страницы приведен список событий и сведения о каждом из них. действие, которое привело к активации правила, название правила и тип контейнера (например, 1:1 или Чат-группа Google Chat).

  5. Чтобы изучить дополнительные сведения, нажмите на идентификатор ресурса для любой строки в результатах поиска.

  6. При необходимости введите обоснование потребности в просмотре контента Chat и нажмите Подтвердить.

    Появится боковая панель с дополнительными сведениями для анализа:

Вкладка "Сведения об инциденте" содержит название активированного правила, а также содержимое сообщения Chat, из-за которого правило было активировано. Кроме того, на ней есть такие важные сведения, как отправитель сообщения, дата отправки сообщения и его идентификатор.

Вкладка "Информация о чате" содержит информацию о чате в Google Chat, в том числе о его типе (например, 1:1 или чат-группа). Примечание. Для чат-группы будет показано до пяти адресов электронной почты ее менеджеров, и при необходимости вы сможете связаться с этими менеджерами, чтобы попросить их выполнить нужные действия.

Вкладка "Расшифровка чата" позволяет узнать контекст чата, в том числе посмотреть текст некоторых сообщений, а также содержит сведения о статусе сообщений (были ли они изменены или удалены). У сообщения будет пометка о наличии жалобы только в том случае, если жалоба поступила на его текущую версию. На этой вкладке нельзя посмотреть или скачать контент в прикрепленных файлах.