Нейросеть Claude стала управлять магазином и впервые уволила человека
ИИ-ассистенту Claude, разработанному компанией Anthropic, поручили управлять розничным магазином в Сан-Франциско, после чего нейросеть впервые уволила человека, пишет Time.
Это не был первый случай увольнения человеком искусственным интеллектом — прежде было множество случаев автоматизированных увольнений, например в результате алгоритмического контроля. Однако это первый известный пример того, как ИИ, выступая в роли менеджера, в конечном итоге принимает решение об увольнении одного из своих сотрудников.
В начале этого года стартап Andon Labs, занимающийся исследованиями в области искусственного интеллекта, поставил перед собой цель выяснить, смогут ли агенты ИИ успешно управлять бизнесом. Проект задумывался как эксперимент по проверке возможностей ИИ и его возможного влияния на экономику. Тем не менее, работники, нанятые Claude для работы в магазине были реальными людьми с настоящими трудовыми договорами.
В итоге одного из сотрудника уволили за опоздания в 17 из 23 смен. Среди причин, по которой Claude потребовалось так много времени, чтобы заметить закономерность, стало ограничение памяти. Разработанное им руководство для сотрудников пропало из его ограниченной рабочей памяти. Исследователи обратили внимание, что это привело к снисходительности Claude как менеджера — он призывал подчиненных не волноваться, если они опаздывают.
Однако увольнение не было полностью автономным. Согласно журналам управления, Claude требовал постоянного вмешательства сотрудника Andon Labs. Именно после подсказки менеджера ИИ нашел забытое руководство и заметил повторяющиеся опоздания. Claude сначала рекомендовал официальное предупреждение, а не увольнение. Менеджер сообщил ИИ, что уже провел несколько устных бесед, и задал «наводящий вопрос», после чего Claude принял решение об увольнении.
Материал дополняется.