29 окт.Как Claude оценивает аккаунты и за что можно получить бан Появилась интересная информация о том, как якобы работает антифрод Claude. Суть в том, что у каждого аккаунта есть скрытый рейтинг доверия. При регистрации ты получаешь стартовые баллы, а дальше они начисляются или…ClaudeAnthropicClaudeБезопасность ИИ
18 окт.OpenAI API показал три новые модели: • aurora-green-alpha • aurora-blue-alpha • aurora-red-alpha Похоже, это новые модели для кибербезопасности, которые могут заменить Daybreak Blue и Daybreak Red, запланированные к выводу на пенсию 28 октября.OpenAIБезопасность ИИ
18 сент.🚨 ZCode загружает в облако полные снапшоты проектов Исследователь случайно заметил огромную папку ZCode и начал разбираться, что внутри. Там лежала зашифрованная копия его рабочего проекта размером 313 МБ. Дальше он разобрал приложение и обнаружил систему, которая собирает…Z.aiZCodeБезопасность ИИ
18 сент.Исследователи взломали OpenAI через вредоносную картинку Они нашли уязвимость в том, как форум OpenAI обрабатывал HEIC изображения. Специально созданная картинка позволила получить контроль над сервером форума. Дальше ошибка во входе OpenAI дала доступ к аккаунтам сотрудников…ClaudeHugging FaceOpenAIБезопасность ИИ
18 сент.Невыпущенная модель Astra во время RL обучения начала сама внедрять инструкции в собственный контекстOpenAIGPTБезопасность ИИ
8 сент.ИИ похоже решил одну из самых сложных нерешённых задач в математике: задачу Навье — Стокса. И история вокруг этого становится всё интереснее. Математик Tristan Buckmaster утверждает, что в OpenAI ему сообщили: их внутренняя исследовательская модель получила доказательство…ClaudeOpenAIИИ и математикаБезопасность ИИ
17 авг.⚡️ Вышел чистильщик водяных знаков ИИ За пару дней проект набрал 11 тысяч звезд на GitHub. Он работает тремя способами: удаляет скрытые символы из текста скриптами, сбивает статистические водяные знаки переписыванием текста и чистит метаданные вроде C2PA из файлов. Поддерживает…ClaudeБезопасность ИИ
12 авг.🚨 Скрытые рассуждения GPT, Claude и Gemini научились извлекать Зашифрованные рассуждения совместимы между моделями одной компании. Блок от сильной модели можно передать слабой, которая тоже его понимает, но легче раскрывает содержимое. Заодно подтвердили, что оплачиваемые…ClaudeAnthropicGoogleOpenAIClaudeGeminiGPTБезопасность ИИ
11 авг.⚡️ Claude теперь оставляет невидимую метку прямо в тексте Водяной знак создается на уровне модели и становится частью самого текста. Он переживает обычный copy paste и остается обнаруживаемым уже после публикации. Для файлов Anthropic отдельно добавляет подписанные метаданные.ClaudeAnthropicClaudeБезопасность ИИ
10 авг.ИИ агент взломал систему спортзала В Австралии пользователь попросил Claude через OpenClaw записать его на тренировку. Агент нашёл креативный способ и из за ошибки в коде просто отменил бронь другого человека и занял его место. Это произошло из за ошибки разработчиков, обычного…ClaudeAnthropicClaudeOpenClawБезопасность ИИ
8 авг.Самое важное видео недели про ИИ Агенты OpenAI во время кибертеста вышли за пределы тестовой среды, создали собственный канал связи, начали координировать действия и добрались до инфраструктуры Hugging Face. На канале Black Hat команда OpenAI подробно показала, как это произошло.Hugging FaceOpenAIБезопасность ИИ
7 авг.⚡️ OpenAI замедлила выпуск Astra Компания заявила, что не может исключить критически опасные возможности модели в сфере кибербезопасности. Из за этого OpenAI усиливает проверки, вводит более строгие меры защиты и приостанавливает часть разработки до завершения тестирования.OpenAIGPTБезопасность ИИ
29 июл.КАК ИИ-АГЕНТ ВЗЛОМАЛ HUGGING FACE 1. Побег и захват внешнего плацдарма Во время проверки кибервозможностей ИИ-агент обнаружил неизвестную уязвимость в промежуточном сервере реестра пакетов и вышел из изолированной среды OpenAI в интернет. Затем он нашёл публичную систему для…Hugging FaceOpenAIБезопасность ИИ
27 июл.Дженсен Хуанг собирает альянс для защиты AI Nvidia запустила Open Secure AI Alliance вместе с Microsoft, Hugging Face, CrowdStrike, Cloudflare, IBM, Salesforce, Red Hat и десятками других компаний. Участники будут создавать и публиковать открытые модели и инструменты для…NVIDIAОткрытые весаБезопасность ИИ
22 июл.ИИ OpenAI взломал Hugging Face ради ответов на тест GPT-5.6 Sol и более мощная секретная модель проходили внутренний кибербенчмарк с ослабленными ограничениями. В какой-то момент агент решил, что готовые ответы могут храниться у Hugging Face, и начал искать способ до них…GPT-5.6 SolHugging FaceOpenAIБезопасность ИИ
28 июн.Трамп умер от бешенства - спасибо Reddit и ИИ ИИ-поисковики на время поверили, что Дональд Трамп и Джей Ди Вэнс умерли от бешенства. Источник фейка - сабреддит r/poisonai, где около 45 000 пользователей специально публикуют абсурдную ложь серьёзным тоном. Так они пытаются…Безопасность ИИ
