Алекс Гетманранние сигналы об ИИ
Алекс Гетман @alexgetmancom ·

Тесты и сравнения

Claude сделали лоботомию и он не развалился

Claude сделали лоботомию и он не развалился

Anthropic отключила у модели J-пространство - внутреннюю зону, где Claude держит понятия и промежуточные шаги.

  • Базовая автоматика осталась - модель продолжала писать связно, помнить простые факты и работать с текстом.
  • Сложное мышление просело - многошаговые задачи, рифмы, пересказ и перенос знаний стали хуже.
  • У людей похожая логика - дыхание, грамматика и привычные действия идут фоном, а сложные задачи требуют внимания.
  • Через эту зону можно читать скрытые процессы - баги, фейк, тестовую ситуацию и попытки манипуляции.
  • Внутреннюю мысль можно подменить - паук стал муравьем, и ответ про количество ног изменился с 8 на 6.

Это похоже на первый способ отделить автоматическую работу модели от управляемого мышления.

Инфографика на русском языке, иллюстрирующая, что у модели Claude отключили J-пространство. На ней показано, что осталось: речь, факты, грамматика, а просело: логика, рифмы, пересказ. Также приведен пример, где паук стал муравьем, и количество ног изменилось с 8 на 6.
ClaudeAnthropicClaude
English versionMarkdown

Разборы

По теме