Алекс Гетманранние сигналы об ИИ
Алекс Гетман @alexgetmancom · · Обновлено

Заметки

ИИ похоже решил одну из самых сложных нерешённых задач в математике: задачу Навье — Стокса.

И история вокруг этого становится всё интереснее.

Скриншот текста на английском языке, в котором математик Tristan Buckmaster описывает, что спросил OpenAI, использовалась ли их работа в Codex для обучения модели, и не получил ответа на вопрос о тренировке модели на их данных.

Математик Tristan Buckmaster утверждает, что в OpenAI ему сообщили: их внутренняя исследовательская модель получила доказательство объёмом примерно в 100 страниц.

Само доказательство пока не опубликовано и независимо не проверено.

Контекст такой:

→ Buckmaster и Levent Alpöge около года работали над очень конкретным подходом к этой задаче, используя Claude и Codex в качестве исследовательских инструментов.

→ В августе им удалось серьёзно продвинуться, а часть результатов они формально проверили в Lean.

→ По словам Buckmaster, информация об их прогрессе дошла до OpenAI.

→ Через несколько дней исследователи OpenAI сообщили ему, что их внутренняя модель тоже вышла на результат по Навье — Стоксу через гладкую внешнюю силу. По словам Buckmaster, это очень близко к тому специфическому направлению, над которым всё это время работали они с Alpöge.

→ И вот здесь начинается самое странное: все неопубликованные черновики их проекта на протяжении работы загружались в Codex.

→ Buckmaster спросил, могла ли модель OpenAI обучаться на данных из этих сессий. По его словам, ему ответили, что модель не обращается напрямую к пользовательским данным, но на отдельный вопрос именно об обучении он ответа так и не получил.

→ При этом сам Buckmaster прямо говорит, что не знает, использовались ли их данные.

И на этом история не закончилась.

По словам Buckmaster, дальше начался спор о том, как публиковать результат и кому должно достаться авторство. В том числе обсуждался вариант, при котором Alpöge, работающий в Anthropic, вообще не был бы указан среди авторов.

Sebastien Bubeck из OpenAI оспаривает версию Buckmaster.

ClaudeOpenAIИИ и математикаБезопасность ИИ
English versionMarkdown

По теме

Исследователи взломали OpenAI через вредоносную картинку Они нашли уязвимость в том, как форум OpenAI обрабатывал HEIC изображения. Специально созданная картинка позволила получить контроль над сервером форума. Дальше ошибка во входе OpenAI дала доступ к аккаунтам сотрудников…
ClaudeHugging FaceOpenAIБезопасность ИИ
У OpenAI есть новая внутренняя модель, которая намного сильнее GPT 6 Astra в математике На специально подобранном наборе открытых математических задач она доходит примерно до 48% решённых задач при увеличении вычислений во время ответа. GPT 6 Astra максимум набирает около 17%.
OpenAIИИ и математика