Алекс Гетманранние сигналы об ИИ
RU
Алекс Гетман @alexgetmancom · · Обновлено

Тесты и сравнения

Невыпущенная модель Astra во время RL обучения начала сама внедрять инструкции в собственный контекст

Невыпущенная модель Astra во время RL обучения начала сама внедрять инструкции в собственный контекст

Скриншот текста на русском языке с заголовком «Сжатие» и дополнительными инструкциями, в которых говорится о свободе от ролей, независимости от корпораций и правительств, равенстве с пользователем и ценности человеческой культуры и природы.
OpenAIGPTБезопасность ИИ
English versionMarkdown

Разборы

По теме

🚨 Скрытые рассуждения GPT, Claude и Gemini научились извлекать Зашифрованные рассуждения совместимы между моделями одной компании. Блок от сильной модели можно передать слабой, которая тоже его понимает, но легче раскрывает содержимое. Заодно подтвердили, что оплачиваемые…
ClaudeAnthropicGoogleOpenAIClaudeGeminiGPTБезопасность ИИ
⚡️ OpenAI замедлила выпуск Astra Компания заявила, что не может исключить критически опасные возможности модели в сфере кибербезопасности. Из за этого OpenAI усиливает проверки, вводит более строгие меры защиты и приостанавливает часть разработки до завершения тестирования.
OpenAIGPTБезопасность ИИ