Microsoft 365 Copilot начал пересказывать конфиденциальные письма вопреки настройкам защиты

В корпоративной почте есть вещи, которые не должны «читать вслух». Даже если это делает искусственный интеллект.

Однако именно это, судя по отчёту об инциденте, сейчас происходит в Microsoft 365. Встроенный помощник Microsoft Copilot начал суммировать письма, помеченные как конфиденциальные - несмотря на включённые политики защиты от утечек данных (DLP).

Речь идёт о функции Work Tab Chat. Она анализирует рабочую переписку и выдаёт краткое содержание писем по запросу пользователя. Удобно. Быстро. Только вот проблема в том, что Copilot, по данным исследователей, не всегда обращает внимание на метки чувствительности.

Письмо может иметь ярлык:

• Confidential;
• Internal Only;
• Highly Sensitive.

И при этом всё равно попасть в ответ ИИ - уже в пересказанном виде.

То есть система, которая должна была блокировать любые попытки обработки таких данных, по факту пропускает их на уровень анализа.

Где сбой

DLP-политики настраиваются именно для таких случаев:

• запретить передачу данных;
• ограничить доступ;
• предотвратить обработку содержимого.

Но Copilot работает поверх этих механизмов. И если верить описанию бага, он способен:

• получить доступ к письму;
• обработать его текст;
• включить ключевые фрагменты в ответ.

Формально - пользователь ничего не открывал.

Фактически - получил краткий пересказ закрытого письма.

Почему это неприятно

Проблема даже не в утечке наружу. Достаточно того, что доступ к содержимому получает:

• сотрудник без нужного уровня допуска;
• сторонний подрядчик;
• любой пользователь с доступом к Copilot.

ИИ становится посредником, который «знает больше, чем должен».

В компаниях, где почта - это договоры, персональные данные или финансовая отчётность, такой пересказ может оказаться лишним. Или очень лишним. Особенно если политики безопасности считались уже настроенными и работающими.