Исследование Стэнфорда: языковые модели начинают отвечать одинаково

Еще недавно казалось: чем больше нейросетей, тем больше разных идей они будут выдавать. Разные компании, разные архитектуры, разные подходы. Логично же.

Но новое исследование из Стэнфордского университета рисует другую картину. И она немного тревожная.

В научной работе под названием Artificial Hivemind ученые попытались проверить простую вещь: насколько разнообразны ответы языковых моделей на открытые вопросы. Не на тесты с правильным ответом. А на те, где вариантов может быть сколько угодно.

Для этого исследователи создали крупный набор данных - Infinity-Chat. В него вошли 26 тысяч реальных пользовательских запросов. Вопросы из повседневной жизни: придумать идею стартапа, написать стихотворение о времени, дать жизненный совет, набросать сюжет рассказа.

Такие задания, по идее, должны давать широкий разброс ответов. Но произошло обратное.

Ученые заметили два устойчивых эффекта.

Первый - повторяемость внутри одной модели. Когда нейросеть запускают несколько раз, она снова и снова выдает похожие ответы. Иногда почти одинаковые.

Второй - еще интереснее. Сходство между разными моделями. Нейросети, созданные разными компаниями, вдруг начинают говорить примерно одно и то же. Те же метафоры. Те же логические ходы. Похожие формулировки.

В исследовании это назвали «искусственным ульем» - Artificial Hivemind.

Проще говоря, вместо тысяч уникальных идей пользователи получают несколько повторяющихся шаблонов.

Причина, по мнению исследователей, довольно приземленная. Большинство крупных языковых моделей обучаются на схожих массивах данных. Их оптимизируют похожими методами. Затем выравнивают с помощью человеческой обратной связи - тоже по схожим принципам.

В итоге системы постепенно начинают «сходиться» в ответах.

Это не означает, что нейросети работают плохо. Наоборот - качество текстов может оставаться высоким. Проблема в другом.

Если миллионы людей используют одинаковые системы для поиска идей, написания текстов, советов или креативных задач, разнообразие мыслей может постепенно сжиматься.

Не из-за злого умысла. Просто потому, что машины начинают мыслить похожими шаблонами - и тиражировать их.

И вот тут исследование задает неприятный вопрос.

Главный риск ИИ может быть не в том, что он станет умнее человека, а в том, что люди начнут думать слишком одинаково, потому что привыкли спрашивать одну и ту же машину.