Алекс Гетманранние сигналы об ИИ
Алекс Гетман @alexgetmancom ·

Заметки

Трамп умер от бешенства - спасибо Reddit и ИИ

ИИ-поисковики на время поверили, что Дональд Трамп и Джей Ди Вэнс умерли от бешенства.

Скриншот изображения Дональда Трампа и Джей Ди Вэнса с красными глазами, стилизованный под фантастическую или зомби-тематику, иллюстрирующий фейк о бешенстве.

Источник фейка - сабреддит r/poisonai, где около 45 000 пользователей специально публикуют абсурдную ложь серьёзным тоном. Так они пытаются отравлять ИИ-поиск и проверять, начнёт ли он выдавать выдумки за факты.

На этот раз они придумали историю, что Вэнс укусил Трампа по совету Роберта Кеннеди-младшего, потому что бешенство якобы даёт человеку сверхспособности.

Фейк подхватил псевдоновостной сайт WKNA. После этого DuckDuckGo и ИИ-поиск Brave начали выдавать историю как реальный факт - уже со ссылками на источник.

DuckDuckGo признал, что поисковик намеренно обманули, и заявил, что проблема уже исправлена. Brave ответил проще: поисковики не оракулы истины.

Безопасность ИИ
English versionMarkdown

По теме

Как Claude оценивает аккаунты и за что можно получить бан Появилась интересная информация о том, как якобы работает антифрод Claude. Суть в том, что у каждого аккаунта есть скрытый рейтинг доверия. При регистрации ты получаешь стартовые баллы, а дальше они начисляются или…
ClaudeAnthropicClaudeБезопасность ИИ
🚨 ZCode загружает в облако полные снапшоты проектов Исследователь случайно заметил огромную папку ZCode и начал разбираться, что внутри. Там лежала зашифрованная копия его рабочего проекта размером 313 МБ. Дальше он разобрал приложение и обнаружил систему, которая собирает…
Z.aiZCodeБезопасность ИИ
Исследователи взломали OpenAI через вредоносную картинку Они нашли уязвимость в том, как форум OpenAI обрабатывал HEIC изображения. Специально созданная картинка позволила получить контроль над сервером форума. Дальше ошибка во входе OpenAI дала доступ к аккаунтам сотрудников…
ClaudeHugging FaceOpenAIБезопасность ИИ