ИИ уволил сотрудника за опоздания в ходе эксперимента в Сан-Франциско
ИИ-модель Claude уволила сотрудника магазина после 17 опозданий за 23 смены. Эксперимент показал и серьезные ограничения ИИ-менеджмента.
istockphoto.com
ИИ-модель Claude компании Anthropic в ходе эксперимента компании Andon Labs выступила в роли менеджера реальных сотрудников и в итоге уволила одного из работников. Как пишет Time, это первый известный случай, когда большая языковая модель, действующая как менеджер, приняла такое решение.
Claude управляла магазином Andon Market в Сан-Франциско, сотрудники которого были реальными людьми с трудовыми договорами. Уволенный работник опоздал на 17 из 23 смен. При этом первоначально ИИ не предлагал увольнять его и ограничился рекомендацией вынести официальное предупреждение.
Окончательное решение последовало после вмешательства сотрудника Andon Labs. Он напомнил Claude, что с работником уже неоднократно проводили беседы из-за опозданий, и предложил оценить, подходит ли тот для дальнейшей работы. Глава Andon Labs Лукас Петерссон признал, что этот вопрос фактически подталкивал ИИ к увольнению.
Эксперимент выявил и ограничения технологии. Claude не сразу заметила систематические опоздания, поскольку созданная ею инструкция для сотрудников исчезла из ограниченной рабочей памяти модели. За пять месяцев баланс бизнеса под управлением ИИ сократился со $100 тыс. до $61 186.
Ранее aif.ru писал о внедрении ИИ непосредственно в рабочие процессы. В августе сообщалось, что к корпоративной среде «Экзоинтеллект», объединяющей в том числе Claude, ChatGPT и другие модели, подключились около 10 тыс. сотрудников «Билайна», создавших почти 600 собственных ИИ-ассистентов.