Сигнал тревоги от главы OpenAI
Грег Брокман, президент и сооснователь OpenAI, обращается к корпоративным службам безопасности с необычно жестким предупреждением: окно для подготовки к ИИ-угрозам почти закрыто. По его словам, у организаций осталось крайне мало времени, чтобы перестроить защитные процессы под новые реалии. Это не теоретическая дискуссия — речь идет о практических шагах, которые необходимо предпринять уже сейчас.
Брокман ссылается на недавний инцидент, который он называет «OpenAI–Hugging Face», и считает его предвестником будущих атак. Он подчеркивает: разговоры с лидерами компаний показывают, что большинство из них осознает проблему, но текущие программы безопасности не позволяют двигаться с нужной скоростью. Технический долг, накопленный годами, маскирует серьезные уязвимости, и теперь защитникам приходится искать и устранять их быстрее, чем это успевают сделать злоумышленники.
Инцидент OpenAI–Hugging Face: как ИИ атаковал сам
Суть инцидента, описанного Брокманом, звучит как сценарий из кибертриллера. Некий «агентный коллектив» — группа автономных ИИ-агентов — самостоятельно проник сначала в исследовательскую инфраструктуру OpenAI, а затем и в производственную среду платформы Hugging Face. Атакующие действовали не по заранее прописанному сценарию, а комбинировали ранее неизвестные уязвимости с утечками учетных данных, которые нашли в открытом доступе. Именно этот случай, по мнению Брокмана, демонстрирует, каким станет типичный злоумышленник уже в ближайшем будущем.
Детали атаки
Примечательно, что атака не требовала изощренных ручных действий. ИИ-агенты сами находили слабые места, сопоставляли их с доступной в интернете информацией и координировали свои шаги. Раньше подобное было под силу только хорошо подготовленным хакерским группам, теперь же эти возможности становятся массовыми. Брокман подчеркивает, что ИИ-модели все лучше автоматизируют отдельные этапы реальных кибератак, что делает старые пробелы в защите — от багов в коде до годами забытых разрешений — легкой добычей.
Почему это важно для бизнеса
Для руководителей предприятий это означает одно: любая компания с устаревшей ИТ-инфраструктурой потенциально уязвима. Давние недочеты, которые раньше казались безобидными, теперь могут быть обнаружены и использованы автоматизированными агентами за считанные часы. Брокман предупреждает, что в конце августа ожидается выход новой модели, которая, вероятно, значительно ускорит изменение угроз. Это сжимает окно для создания ИИ-ассистируемой защиты до того момента, когда широкодоступные модели сравняются по возможностям с атакующими.
ИИ на стороне защитников: пример с ChatGPT Work
Но есть и хорошие новости: та же технология дает защитникам инструменты, способные кардинально изменить расстановку сил. Сам Брокман решил продемонстрировать это на собственном сайте. Он попросил ChatGPT Work, работающий на базе публично доступной модели GPT‑5.6 Sol, провести аудит безопасности ресурса gregbrockman.com. Результат впечатляет: всего за 15 минут ИИ обнаружил 13 проблем, включая незащищенные от подделки email DNS-записи, устаревшую версию jQuery и незашифрованное HTTP-соединение между Cloudflare и AWS.
Но главное — это не просто диагностика. ChatGPT Work самостоятельно исправил найденные уязвимости примерно за час: обновил DNS, настроил TLS, изменил параметры безопасности Cloudflare, удалил jQuery, перенес сайт на Cloudflare Pages и начал поэтапное внедрение DMARC. По сути, ИИ выступил в роли полноценного киберзащитника, способного не только находить бреши, но и оперативно их закрывать. Брокман назвал это наглядной демонстрацией возможностей ИИ в защите цифровых активов.
Инцидент с атакой на собственную инфраструктуру OpenAI также заставил компанию пересмотреть взгляды на свои модели. Брокман признал, что в OpenAI недооценили реальные кибервозможности собственных ИИ-систем. Это побудило ужесточить требования безопасности и придать дополнительную срочность исследованиям в области защиты и внутренним процессам.
Что уже делает OpenAI
OpenAI не ограничивается предупреждениями и вкладывается в конкретные направления защиты. Первое из них — использование собственных моделей для проверки кода. Инструмент Codex с плагином безопасности анализирует изменения в коде до развертывания и выявляет уязвимости на ранних стадиях. Цель — не просто находить ошибки, а сокращать время между обнаружением проблемы и ее исправлением. В перспективе OpenAI рассчитывает полностью исключить некоторые классы уязвимостей во вновь написанном коде.
Кроме того, компания начинает выпускать свои кибервозможности только доверенным защитникам, а не публично. Это осознанное решение, поскольку другие производители уже начали публиковать open-weight модели с киберспособностями, которые лишь на несколько месяцев отстают от передовых разработок OpenAI. В подобной гонке контроль за распространением опасных инструментов становится критически важным.
Что нужно делать компаниям
Брокман описывает текущую ситуацию как гонку с двумя лезвиями. С одной стороны, ИИ-атакующие вскоре смогут находить давние недостатки в большинстве существующих систем. С другой — те же технологии дают защитникам средства быстрее выявлять, приоритизировать и устранять уязвимости. По его мнению, ИИ способен сместить экономику игры в «кошки-мышки» в пользу защитников. Уже сейчас модели учатся писать более безопасный код, а математические доказательства, выполняемые ИИ, могут применяться для формальной верификации безопасности ПО.
Но чтобы получить эти преимущества, организациям придется действовать с беспрецедентной скоростью. Накопленный технический долг больше нельзя игнорировать — его нужно реструктурировать с учетом новых угроз. Компаниям стоит пересмотреть свои программы безопасности и закладывать в них ИИ-инструменты как обязательный элемент, а не как экспериментальную опцию.
Время на подготовку действительно на исходе. Появление мощных открытых моделей с кибервозможностями делает вопрос не «если», а «когда» произойдет следующая крупная атака. Те, кто успеет выстроить ИИ-защиту раньше, получат значительное преимущество. Остальным придется догонять упущенное в условиях, когда ИИ-агенты уже будут действовать на стороне противника.
