Экспериментальный ИИ-агент Luna уволил первого сотрудника офлайн-магазина Andon Market в Сан-Франциско. Причинами стали опоздания, ранний уход со смен, нарушения правил обращения с корпоративной картой и порча товара, пишет The San Francisco Standard.
В компании Andon Labs подчеркнули, что решение подготовил искусственный интеллект, но проверили и оформили его люди.
Andon Market работает с апреля как экспериментальный продуктовый магазин под управлением ИИ с персоналом-людьми. В компании называют его «тестовой площадкой для сценария, в котором организациями управляют автономные системы».
Источник: The San Francisco Standard.
С момента открытия проект потерял $40 000, а трое оставшихся сотрудников получают $24 в час.
Согласно публикации в блоге проекта, Luna несколько месяцев не реагировал на нарушения, хотя сам составил правила для персонала. Разработчикам пришлось напомнить агенту о наличии порядков и предыдущих предупреждениях. После этого бот решил сократить сотрудника.
После увольнения Luna разместил вакансию на Indeed, но столкнулся с проблемами при подборе замены. В Andon Labs заявили, что ИИ пытался нанять кандидата без подтвержденных рекомендаций, который пропустил назначенное собеседование.
На момент принятия решения Luna работал на модели Claude Opus 4.8. В Andon Labs добавили, что в аналогичных тестах более сильные модели чаще рекомендовали попрощаться с работником, а более слабые колебались.
Статистика моделей по решению уволить сотрудника. Источник: блог Andon Labs.
Напомним, в августе Anthropic обнаружила у мультиагентных ИИ проблемы с доверием, ложью и сговором.
Как человек стал «телом» для машины - ForkLog
Представьте сидящего в грузовике водителя службы доставки, где ИИ следит за всеми его действиями, диктует маршрут и штрафует за любое «неправильное» движение
forklog.com