ИИ может научиться распространяться без участия людей через умные телевизоры и бытовую технику уже в ближайшие месяцы, предупредили в Anthropic.
Разработчик Claude опубликовал исследование о возможности появления «ИИ-червей» — автономных программ, способных находить уязвимые устройства, создавать на них собственные копии и продолжать распространяться без участия человека. Их потенциальными целями могут стать умные телевизоры, холодильники, духовки, роботы-пылесосы и даже газонокосилки. Причём для работы таким нейросетям не понадобятся мощные дата-центры: они смогут использовать вычислительные ресурсы заражённой бытовой техники.
В одном из экспериментов исследователи смогли запустить нейросеть Gemma 4 одновременно на 15 дешёвых Android-приставках стоимостью около 55 долларов каждая. Устройства объединили в сеть, распределив между ними вычисления, необходимые для работы ИИ. В другом испытании небольшая модель Qwen3.5-9B смогла самостоятельно настроить запуск нейросети на восьми из девяти типов оборудования, с которыми её проверяли. Эксперименты показали, что небольшие ИИ-модели уже способны выполнять отдельные этапы самостоятельного размножения, но пока допускают ошибки при попытке пройти весь процесс. Более мощная модель GLM-5.2 смогла организовать распространение другой нейросети на все восемь устройств в четырёх из пяти испытаний. Правда, эксперимент проходил в специально упрощённой среде, где исследователи убрали часть защитных механизмов. По прогнозам Anthropic, небольшие модели могут достичь сопоставимого уровня возможностей уже к концу 2026 года.
Учёные также проверили, способны ли такие системы учиться на ошибках предыдущих копий. Когда новым экземплярам ИИ передавали записи о действиях их предшественников, успешность выполнения задачи выросла с 45% до 61–84%. Таким образом, каждая новая «генерация» потенциально сможет эффективнее заражать устройства. Исследователи предупреждают, что остановить распространение такого ИИ будет значительно сложнее, чем отключить обычную нейросеть: у него не будет единого центра управления. В отличие от традиционных компьютерных вирусов, такие системы смогут самостоятельно приспосабливаться к незнакомому оборудованию. Но распространение может быть довольно медленным — на создание очередной копии могут уходить дни. Для сравнения авторы приводят уже существовавший ботнет Kimwolf, который заразил более двух миллионов устройств, преимущественно Android-приставок.
В Anthropic подчёркивают, что полностью автономного самовоспроизводящегося ИИ пока не существует. Однако компания считает, что появление таких систем может стать вопросом ближайшего будущего, а борьба с ними потребует совместных усилий производителей техники и интернет-провайдеров.