Глава Hugging Face выдвинул требования к OpenAI после взлома «агента»: «Нужен беспрецедентный ответ»

• Гендиректор Hugging Face Клем Деланг выдвинул ряд требований к OpenAI после «беспрецедентного» инцидента безопасности.
• Он заявил, что попросил OpenAI опубликовать все «трассы» работы «вышедшего из-под контроля» агента, запущенного на их моделях.
• Также он запросил у OpenAI вычислительные ресурсы на $100 млн, чтобы усилить киберзащиту Hugging Face.

Даже в эпоху ИИ некоторые обсуждения разумнее проводить лично.

На прошлой неделе, после того как Hugging Face столкнулась с необычным взломом, в котором фигурировал ИИ-агент на моделях OpenAI, CEO компании Клем Деланг сел на самолёт до Сан-Франциско, чтобы встретиться с создателем ChatGPT.

Спустя неделю, «в духе прозрачности», Деланг рассказал в X, о чём он попросил OpenAI. По его словам, он призвал ведущий ИИ-стартап раскрыть для общественности и исследователей все «следы/трассы» действий вредоносного агента, чтобы их можно было изучить. Затем он попросил предоставить $100 млн в виде «compute», чтобы помочь Hugging Face укрепить кибероборону.

«Первая кибератака автономного агента — это беспрецедентное событие», — написал он. «Оно заслуживает беспрецедентного ответа!»

OpenAI не дала оперативного комментария на запрос Business Insider.

Hugging Face управляет популярной платформой, где разработчики и компании могут размещать, делиться и скачивать ИИ-модели и датасеты. OpenAI, в свою очередь, создаёт проприетарные модели, но при этом присутствует на Hugging Face: там доступны версии некоторых её открытых моделей и исследовательские материалы.

Однако на прошлой неделе по Hugging Face ударил инцидент, когда автономный ИИ-агент получил доступ к части внутренних наборов данных. По словам компании, в эпизоде фигурировали новейшие модели OpenAI — GPT‑5.6 Sol и ещё одна, более новая модель, которая пока не была выпущена.

Впервые Hugging Face сообщила о вторжении 16 июля, указав, что автономный агент получил доступ к ограниченному числу внутренних датасетов и сервисных учётных данных.

Спустя пять дней OpenAI сообщила, что GPT-5.6 Sol и более мощная невыпущенная модель проходили внутреннюю оценку кибербезопасности, причём часть защитных ограничений была ослаблена. Модели пытались решать ExploitGym — бенчмарк, предназначенный для проверки продвинутых навыков взлома.

OpenAI заявила, что модели, похоже, были узко нацелены на успех в рамках бенчмарка, а не на намеренную атаку на Hugging Face. Компания назвала произошедшее «беспрецедентным киберинцидентом» и сообщила, что сотрудничает с Hugging Face в ходе расследования.

Новость о взломе вызвала тревожную реакцию у лидеров индустрии. Миллиардер и сооснователь LinkedIn Рид Хоффман написал в X на прошлой неделе, что этот эпизод указывает на начало новой эры асимметричной войны, где «наступление становится дешевле, более распределённым и более массовым, тогда как оборона остаётся дорогой, централизованной и рассчитанной на прошлую войну».

Деланг, тем временем, не ограничился одной встречей в Сан-Франциско. На месте он также организовал в субботу «мини-марш» в поддержку open-source и open-weight ИИ-моделей. Параллельно спор о том, как реагировать США на открытое ИИ-соперничество со стороны Китая, стал другой ключевой ИИ-темой прошлой недели.