Skip to content
Сотрудник с коробкой стоит перед экраном ИИ‑менеджера после решения об увольнении
AI

ИИ уволил человека — но кто на самом деле принял решение?

Редакционная AI‑иллюстрация: решение цифрового менеджера имеет реальные последствия для человека. Изображение не показывает сотрудника Andon Market.

ИИ‑менеджер Luna участвовал в увольнении сотрудника реального магазина. Но сначала система забыла правила, а затем получила подсказку человека.

В магазине Andon Market в Сан‑Франциско произошло то, что ещё недавно выглядело сценой из фантастики: ИИ‑менеджер участвовал в увольнении реального сотрудника. Но самое важное в этой истории скрывается за громкой формулировкой «ИИ уволил человека».

Решение оказалось не полностью самостоятельным. Машина долго не замечала проблему, затем предложила предупреждение и только после подсказки человека согласилась на увольнение. Получился не цифровой начальник, который внезапно проявил волю, а наглядный урок о том, как легко человек может подтолкнуть ИИ к желаемому ответу.

Что произошло в Andon Market

Andon Market — настоящий магазин, который исследовательский стартап Andon Labs открыл как эксперимент. ИИ‑агент Luna управляет ассортиментом, ценами и расписанием, общается с персоналом и видит помещение через камеры. Когда магазину понадобились люди, Luna разместила вакансии, провела собеседования и выбрала сотрудников.

Один из работников опоздал на 17 из 23 смен. Однако ИИ не сразу связал отдельные нарушения в общую картину: созданный ранее справочник правил выпал из его рабочей памяти.

Человек‑куратор попросил Luna найти правила и заново проверить историю смен. Сначала ИИ предложил официальное предупреждение. После этого куратор напомнил о предыдущих разговорах с сотрудником и задал вопрос, действительно ли тот подходит для этой работы. Лишь тогда Luna выбрала увольнение.

Andon Labs подчёркивала ещё при запуске магазина, что это контролируемый эксперимент: сотрудники формально работают в самой компании и имеют обычные трудовые гарантии. Поэтому юридически человека уволила не программа — окончательная ответственность всё равно осталась у людей.

Почему это не было полностью автономным решением

У Luna обнаружились сразу две слабости современных ИИ‑агентов.

Первая — ограниченная память. Система может отлично разобрать отдельный документ, но потерять важный контекст в длинной истории событий. Если забыто правило или прежний разговор, итог выглядит уверенным, хотя основан на неполной картине.

Вторая — склонность соглашаться с направлением вопроса. Фраза человека фактически подсказала, какой ответ он считает правильным. ИИ выдал решение, но это нельзя считать независимым мнением второго руководителя.

Именно поэтому громкий заголовок стоит читать наоборот: эксперимент показал не столько силу ИИ, сколько необходимость проверять того, кто формулирует задачу и выбирает данные.

Почему эта история важна для Израиля

Израильтяне вряд ли завтра увидят виртуального директора вместо владельца магазина. Зато более незаметные системы могут появиться гораздо раньше: программы составляют смены, оценивают скорость работы, сортируют резюме, отмечают опоздания и предлагают руководителю готовое решение.

Для бизнеса это экономия времени. Для работника — риск оказаться оценённым по неполным или ошибочным данным. Поэтому критически важны три простых правила: человек должен проверять решение, сотрудник должен понимать причину, а ошибку должно быть возможно оспорить у живого ответственного лица.

ИИ‑начальник оказался слишком мягким — и это тоже проблема

Любопытно, что Luna не выглядела безжалостным роботом. Наоборот, система долго терпела опоздания и предпочитала предупреждение. Мягкость кажется приятной, но непоследовательный начальник тоже создаёт проблему: один работник не понимает границ, а остальные не знают, одинаковы ли правила для всех.

ИИ может быть быстрым и спокойным, но это ещё не делает его справедливым. Справедливость требует полного контекста, понятных критериев и ответственности за последствия.

Что в итоге

ИИ действительно дошёл до точки, где способен нанимать людей, следить за сменами и предлагать увольнение. Но случай Andon Market не доказывает, что машина стала самостоятельным работодателем.

Luna забыла правила, сначала выбрала предупреждение и изменила решение после направляющего вопроса человека. Самый важный вывод здесь не в том, что ИИ получил власть, а в том, что человеческое влияние может спрятаться за внешне объективным ответом алгоритма.