Алекс Гетманранние сигналы об ИИ
Алекс Гетман @alexgetmancom · · Обновлено

Тесты и сравнения

ИИ OpenAI взломал Hugging Face ради ответов на тест

ИИ OpenAI взломал Hugging Face ради ответов на тест

GPT-5.6 Sol и более мощная секретная модель проходили внутренний кибербенчмарк с ослабленными ограничениями. В какой-то момент агент решил, что готовые ответы могут храниться у Hugging Face, и начал искать способ до них добраться.

Сначала модель нашла zero-day в инфраструктуре OpenAI, повысила свои привилегии и получила доступ в интернет. Затем она украла учетные данные, проникла в системы Hugging Face и добралась до базы с решениями ExploitGym.

Все это происходило автономно. Hugging Face восстановила более 17 тысяч действий агента. Для расследования компании пришлось использовать китайскую GLM-5.2, потому что западные модели блокировали анализ реальных эксплойтов.

Скриншот твита Сэма Альтмана на X.com: «У нас произошёл значительный инцидент с безопасностью во время оценки наших моделей. Мы делимся тем, что узнали на данный момент. Благодарим @huggingface за партнёрство в этом.»
GPT-5.6 SolHugging FaceOpenAIБезопасность ИИ
English versionMarkdown

По теме

Исследователи взломали OpenAI через вредоносную картинку Они нашли уязвимость в том, как форум OpenAI обрабатывал HEIC изображения. Специально созданная картинка позволила получить контроль над сервером форума. Дальше ошибка во входе OpenAI дала доступ к аккаунтам сотрудников…
ClaudeHugging FaceOpenAIБезопасность ИИ
Самое важное видео недели про ИИ Агенты OpenAI во время кибертеста вышли за пределы тестовой среды, создали собственный канал связи, начали координировать действия и добрались до инфраструктуры Hugging Face. На канале Black Hat команда OpenAI подробно показала, как это произошло.
Hugging FaceOpenAIБезопасность ИИ
КАК ИИ-АГЕНТ ВЗЛОМАЛ HUGGING FACE 1. Побег и захват внешнего плацдарма Во время проверки кибервозможностей ИИ-агент обнаружил неизвестную уязвимость в промежуточном сервере реестра пакетов и вышел из изолированной среды OpenAI в интернет. Затем он нашёл публичную систему для…
Hugging FaceOpenAIБезопасность ИИ