ИИ написал хакерский эксплойт как учебное пособие. Google это заметил

У оружия были сноски. Хакерский инструмент шёл в комплекте с учебным руководством, придуманной самим ИИ оценкой критичности угрозы и построчными комментариями, объясняющими логику атаки. Написанный как учебник по программированию, эксплойт был нацелен на обход двухфакторной аутентификации в популярном инструменте веб-администрирования - и это должно было стать первым шагом масштабной кампании по взлому.

11 мая Google опубликовал доклад своей группы анализа угроз (GTIG), зафиксировавшей первый в истории подтверждённый случай: эксплойт нулевого дня создан с помощью ИИ и уже применён реальными злоумышленниками. По заключению аналитиков, языковая модель не просто нашла семантическую логическую ошибку в механизме 2FA - она превратила её в готовый Python-скрипт. Google успел предупредить разработчиков и, судя по всему, сорвал кампанию до того, как та набрала обороты.

Выдаёт ИИ-происхождение кода совсем не то, что ожидаешь. Никакой опытный хакер не станет снабжать боевой эксплойт педагогическими аннотациями. Здесь же, подробные комментарии, объясняющие атаку шаг за шагом, аккуратные определения классов, развёрнутые справочные меню. И главный курьёз: эксплойт содержал оценку серьёзности по шкале CVSS, которую модель попросту сгенерировала из своих обучающих данных - не из реальной базы уязвимостей. ИИ написал оружие так, как написал бы лекцию.

Само существо найденной уязвимости показывает, почему это меняет баланс сил надолго. Классические сканеры безопасности ловят переполнение буфера, повреждение памяти, известные паттерны. Они не читают код так, как читает его разработчик. Языковые модели - читают. Обнаруженная ошибка была семантической: противоречие между тем, что программист намеревался сделать, и тем, что код делал на самом деле, - спрятанное в безобидно выглядящем допущении о доверии. Ни один автоматизированный инструмент не нашёл бы её. ИИ сопоставил намерение с реализацией и нашёл точку расхождения. Это принципиально новый класс поиска уязвимостей, недоступный традиционным средствам защиты.

Видимое - лишь верхушка. Тот же доклад описывает более широкую картину. Северокорейская группа APT45 засыпала языковые модели тысячами однотипных запросов, рекурсивно анализируя уязвимости и формируя арсенал эксплойтов в масштабах, недостижимых без автоматизации. Связанный с Китаем актор использовал технику jailbreak от имени эксперта, чтобы заставить Gemini изучать уязвимости удалённого выполнения кода в прошивках роутеров. Российские операции монтируют синтезированное ИИ аудио поверх реальных новостных видео. Android-бэкдор PROMPTSPY управляет заражёнными устройствами через API Gemini - перехватывает биометрию и воспроизводит жесты аутентификации. А в марте криминальная группа TeamPCP взломала LiteLLM, популярную библиотеку-шлюз для ИИ, встроив похититель учётных данных в отравленные пакеты PyPI.

ИИ, распознающий ваши покупки в супермаркете, и ИИ, обходящий вашу двухфакторную аутентификацию, работают на одной архитектуре. Google опубликовал доклад GTIG 11 мая. Samsung в тот же день начал встраивать Gemini в холодильники. Двойное использование больше не теория. Оно вышло в одном новостном цикле.