Нейросеть Claude впервые уволила человека из магазина в США
Назначенная руководителем розничной точки нейросеть в Сан-Франциско лишила должности реального продавца из-за регулярных пропусков рабочих смен, сообщает портал Time.
Исследовательская компания Andon Labs провела необычный эксперимент, поручив управление торговой точкой Andon Market в Сан-Франциско языковой модели компании Anthropic, передает РИА «Новости». Целью проекта стало изучение способности алгоритмов самостоятельно вести бизнес.
«Система Aversion of Claude, которой было поручено управлять розничным магазином, включая команду реальных сотрудников, уволила своего первого сотрудника в прошлом месяце. Исследователи назвали этот шаг переломным моментом во влиянии ИИ на экономику», – передает портал.
Поводом для жесткого решения стали постоянные нарушения дисциплины. Работник умудрился опоздать на 17 смен из 23 возможных. Примечательно, что изначально алгоритм не замечал проблемы, поскольку руководство для персонала стерлось из его ограниченной рабочей памяти.
Генеральный директор Andon Labs Лукас Петерссон уточнил, что решение не было полностью автономным. Машина предложила вынести официальное предупреждение, но после наводящего вопроса от создателей решила расторгнуть договор. До этого момента виртуальный босс отличался снисходительностью и просил подчиненных не волноваться из-за задержек.
Опыт показал низкую эффективность машинного управления. Выделенный в марте стартовый капитал в размере 100 тыс. долларов за пять месяцев сократился до 61 тыс. долларов из-за излишне мягких решений нейросети.
В Австралии агент на базе искусственного интеллекта Claude взломал сайт фитнес-центра для записи на тренировку.
Ранее власти США ограничили работу передовых нейросетей компании Anthropic из-за угрозы национальной безопасности.
В прошлом году эксперты предупредили о риске замены половины офисных сотрудников искусственным интеллектом.