В магазине Andon Market в Сан‑Франциско произошло то, что ещё недавно выглядело сценой из фантастики: ИИ‑менеджер участвовал в увольнении реального сотрудника. Но самое важное в этой истории скрывается за громкой формулировкой «ИИ уволил человека».
Решение оказалось не полностью самостоятельным. Машина долго не замечала проблему, затем предложила предупреждение и только после подсказки человека согласилась на увольнение. Получился не цифровой начальник, который внезапно проявил волю, а наглядный урок о том, как легко человек может подтолкнуть ИИ к желаемому ответу.
Что произошло в Andon Market
Andon Market — настоящий магазин, который исследовательский стартап Andon Labs открыл как эксперимент. ИИ‑агент Luna управляет ассортиментом, ценами и расписанием, общается с персоналом и видит помещение через камеры. Когда магазину понадобились люди, Luna разместила вакансии, провела собеседования и выбрала сотрудников.
Один из работников опоздал на 17 из 23 смен. Однако ИИ не сразу связал отдельные нарушения в общую картину: созданный ранее справочник правил выпал из его рабочей памяти.
Человек‑куратор попросил Luna найти правила и заново проверить историю смен. Сначала ИИ предложил официальное предупреждение. После этого куратор напомнил о предыдущих разговорах с сотрудником и задал вопрос, действительно ли тот подходит для этой работы. Лишь тогда Luna выбрала увольнение.
Andon Labs подчёркивала ещё при запуске магазина, что это контролируемый эксперимент: сотрудники формально работают в самой компании и имеют обычные трудовые гарантии. Поэтому юридически человека уволила не программа — окончательная ответственность всё равно осталась у людей.
Почему это не было полностью автономным решением
У Luna обнаружились сразу две слабости современных ИИ‑агентов.
Первая — ограниченная память. Система может отлично разобрать отдельный документ, но потерять важный контекст в длинной истории событий. Если забыто правило или прежний разговор, итог выглядит уверенным, хотя основан на неполной картине.
Вторая — склонность соглашаться с направлением вопроса. Фраза человека фактически подсказала, какой ответ он считает правильным. ИИ выдал решение, но это нельзя считать независимым мнением второго руководителя.
Именно поэтому громкий заголовок стоит читать наоборот: эксперимент показал не столько силу ИИ, сколько необходимость проверять того, кто формулирует задачу и выбирает данные.
Почему эта история важна для Израиля
Израильтяне вряд ли завтра увидят виртуального директора вместо владельца магазина. Зато более незаметные системы могут появиться гораздо раньше: программы составляют смены, оценивают скорость работы, сортируют резюме, отмечают опоздания и предлагают руководителю готовое решение.
Для бизнеса это экономия времени. Для работника — риск оказаться оценённым по неполным или ошибочным данным. Поэтому критически важны три простых правила: человек должен проверять решение, сотрудник должен понимать причину, а ошибку должно быть возможно оспорить у живого ответственного лица.
ИИ‑начальник оказался слишком мягким — и это тоже проблема
Любопытно, что Luna не выглядела безжалостным роботом. Наоборот, система долго терпела опоздания и предпочитала предупреждение. Мягкость кажется приятной, но непоследовательный начальник тоже создаёт проблему: один работник не понимает границ, а остальные не знают, одинаковы ли правила для всех.
ИИ может быть быстрым и спокойным, но это ещё не делает его справедливым. Справедливость требует полного контекста, понятных критериев и ответственности за последствия.
Что в итоге
ИИ действительно дошёл до точки, где способен нанимать людей, следить за сменами и предлагать увольнение. Но случай Andon Market не доказывает, что машина стала самостоятельным работодателем.
Luna забыла правила, сначала выбрала предупреждение и изменила решение после направляющего вопроса человека. Самый важный вывод здесь не в том, что ИИ получил власть, а в том, что человеческое влияние может спрятаться за внешне объективным ответом алгоритма.