Алекс Гетманранние сигналы об ИИ
Алекс Гетман @alexgetmancom · · Обновлено

Тесты и сравнения

Скрытые рассуждения GPT, Claude и Gemini научились извлекать

🚨 Скрытые рассуждения GPT, Claude и Gemini научились извлекать

Зашифрованные рассуждения совместимы между моделями одной компании. Блок от сильной модели можно передать слабой, которая тоже его понимает, но легче раскрывает содержимое.

Заодно подтвердили, что оплачиваемые токены рассуждений примерно соответствуют их реальному объёму. А если поделиться чатом с другом, он потенциально сможет извлечь пароли и ключи доступа.

Схема, показывающая, как зашифрованный ход мышления из модели Claude-opus-4-8 инъецируется в более слабую модель Claude-haiku-4-5-20251001, которая затем раскрывает его содержимое, демонстрируя уязвимость в зашифрованных рассуждениях.
ClaudeAnthropicGoogleOpenAIClaudeGeminiGPTБезопасность ИИ
English versionMarkdown

Разборы

По теме