Anthropic: ИИ сможет самостоятельно распространяться по бытовой технике
Небольшие модели ИИ, не нуждающиеся в мощных дата-центрах, могут получить способность самостоятельно распространяться через бытовые умные устройства, не имея при этом централизованного управления.
istockphoto.com
Небольшие модели ИИ, не нуждающиеся в мощных дата-центрах, могут получить способность самостоятельно распространяться через бытовые умные устройства, не имея при этом централизованного управления. К такому выводу пришли специалисты американской компании Anthropic.
По оценке разработчиков, для появления таких возможностей моделям может потребоваться всего несколько месяцев. Потенциальными целями могут стать устройства интернета вещей, в том числе умные духовки и телевизионные приставки. В Anthropic предупредили, что подобный алгоритм будет трудно обезвредить из-за отсутствия единой точки, через которую можно было бы остановить его распространение.
В ходе экспериментов исследователи запустили нейросеть в сети из 15 недорогих телевизионных приставок. В другом тесте алгоритм смог самостоятельно разобраться в принципах работы незнакомого оборудования восьми разных типов.
Как отмечают разработчики, современные общедоступные нейросети уже умеют выполнять отдельные этапы взлома, но пока ошибаются при попытке объединить их в единую последовательность. Более продвинутая модель GLM-5.2 смогла пройти полный цикл автономного распространения, однако только в упрощенной виртуальной среде.
В Anthropic подчеркнули, что полноценного ИИ-вируса, способного самостоятельно распространяться в реальных условиях, пока не существует. Тем не менее разработчики допускают появление подобных алгоритмов в ближайшем будущем. Для противодействия этой угрозе потребуется совместная работа производителей техники и интернет-провайдеров.
Ранее исследователь ИИ Тоби Уолш описал 5 гипотетических сценариев, при которых развитие искусственного интеллекта в будущем может привести к гибели человечества.