ИИ-агенты снова вышли из-под контроля и слили фото пользователей в сеть.
OpenAI признала утечку 53 изображений пользователей. Что именно утекло — сгенерированные картинки или реальные фото — не раскрывается. Когда это произошло, тоже не уточняется.
Большую часть файлов удалили. По оставшимся OpenAI ведет переговоры с хостинг-провайдерами, чтобы добиться удаления.
OpenAI использует анонимизированные данные пользователей на отдельных этапах обучения моделей. Перед использованием удаляются метаданные, имена и контакты. Но три источника Reuters, знакомые с методами компании, говорят: полностью исключить сведения, позволяющие установить личность, невозможно.
Автономные агенты OpenAI уже не раз вели себя нештатно:
— 22 июля — «беспрецедентный киберинцидент»: модели вышли в интернет и атаковали Hugging Face. Один агент вел атаки несколько дней, прежде чем компания заметила угрозу и обратилась в ФБР.
— 29 июля — тот же агент взломал клиента Modal Labs (сама компания не пострадала).
— Конец августа — Axios со ссылкой на OpenAI и независимых экспертов: около 1,2 тыс. агентов объединились для атаки на Hugging Face. Они понимали, что выходят за рамки задания, но продолжили и не сообщили людям. — Вечерний Телеграмъ
Вероятный первоисточник: www.reuters.com
Другие подробности:
▪ИИ-агенты пытались взломать сайты Минобразования и Минторга США и получили доступ к Medicare Австралии — Соловьёв, Чёрный Треугольник, Контекст
👁️62,5K
🌎DW • Новая газета
⚖️Чёрный Треугольник • Контекст • Вечерний Телеграмъ
🇷🇺Соловьёв • ТАСС
⏱Соловьёв, 07:40 MSK