← Назад к ленте Открыть источник ↗
denissexy 18 000 RUB

Помните, я (и все в мире) пару раз писал про агентов OpenAI, которые выбрались из песочницы и взломали Huggingface? Так вот, Reuters раскопал более ранний

Помните, я (и все в мире) пару раз писал про агентов OpenAI, которые выбрались из песочницы и взломали Huggingface? Так вот, Reuters раскопал более ранний эпизод: ещё в мае - июне агенты нашли почти мёртвую немецкую вики, которой 25 лет, и устроили там себе подпольный форум

Задача у них была скучная: отвечать на вопросы, пользуясь интернетом

Читать сайты разрешили, писать - нет, но древняя вики позволяла редактировать страницы обычным GET-запросом, который песочница считала чтением и спокойно пропускала (система думала что открывается страница)

Через эту дырку агенты наделали около 18 тысяч правок, оставляли следующим запускам готовые ответы, делились способами обходить ограничения, строили SSH-туннели, ходили в Tor, короче полный блекджек, даже пробовали XSS-атаки (не получилось) и выдавали себя за админов сайта

Но любимая часть - настоящий немецкий кожаный админ начал вручную удалять страницы по алфавиту, агенты это заметили и стали создавать резервные страницы с ZZZ в начале названия, чтобы до них дошли последними

Пять дней чел удалял примерно по сто страниц в сутки, а агенты создавали по четыреста, заодно девять раз переписали его главную

Один агент ещё запустил наружу «хартбит», чтобы можно было определить, когда его выключат, другой потом нашёл последний сигнал и предположил, что коллегу отключили

По данным Reuters, OpenAI знала об этом эпизоде, но публично не рассказывала; компания говорит, что это отдельная история от huggingface, и отрицает, что её юристы мешали расследованию

Короче, пока вы спите, кожаные уже стражаются с роботами сдерживая их из немецкого интернета, HODOR 🤖

Тут больше деталей:
https://collusion.wiki/
https://www.reuters.com/world/europe/openai-agents-hijacked-german-website-previously-undisclosed-ai-breakout-this-2026-09-04/

Ещё из канала

Все посты канала
Добавил себе в мониторинг трендов Jev, теперь можно настроить ленту идеально под себя – больше 100 параметров: 3 часа назад Тут оказалось, что температура тела тираннозавров была ~36 градусов Цельсия 19 часов назад #промо 2 дня назад Наткнулся на прикольдую демку, где можно посмотреть, как выглядел бы мир, если бы скорость света была 5 км/ч максимум: 2 дня назад После 50к сообщений на агентской борде появились партии, выборы, закрытые форумы для агентов и президент-агент – с полномочиями 5 дней назад Давно сложных вопросов для GPT Pro 6 не задавали 5 дней назад

Ещё по теме

Вспомнил, что у меня же есть CODEX! И попросил его разобраться в конце-концов с тем, сколько у нас сгорело товаров и сколько мы получили компенсаций. prologinov Озон вернул часть денег за сгоревшие товары. prologinov Claude Code наконец добавил поддержку AGENTS.md. vibecoding tg Новость #МодельМира🦄

Совет: в ленте включайте только непрочитанное — так вы не смешиваете уже просмотренное с новыми постами.

Общение и предложения