ШІ-модель Claude вперше самостійно ухвалила рішення про звільнення реального працівника. Експеримент проводить Andon Labs у магазині Andon Market у Сан-Франциско, де Claude доручили виконувати функції керівника. Дослідники хотіли перевірити, наскільки автономний ШІ здатний керувати бізнесом і взаємодіяти з людьми.
Працівника звільнили через регулярні запізнення: він пропустив або запізнився на 17 із 23 змін. Спочатку Claude запропонував лише винести офіційне попередження. Однак після додаткового запитання дослідника про те, чи підходить співробітник для роботи, модель самостійно дійшла висновку про необхідність звільнення. Генеральний директор Andon Labs Лукас Петерссон назвав рішення повністю автономним.
Цікаво, що Claude не одразу помітив проблему. Раніше модель створила інструкцію для працівників, але згодом вона зникла з обмеженої робочої пам’яті ШІ. Через це система тривалий час не могла врахувати інформацію про запізнення співробітника. Загалом дослідники описують Claude як досить поблажливого керівника, який навіть радив працівникам не надто перейматися запізненнями.
Втім, експеримент поки не свідчить про перевагу ШІ над людиною в управлінні бізнесом. Andon Market розпочав роботу зі стартовим балансом у $100 тисяч, але приблизно за п’ять місяців кошти скоротилися до $61 тисячі. Дослідники пов’язують це, зокрема, з надто м’якими управлінськими рішеннями та невдалими комерційними діями Claude.
Таким чином, експеримент показав одразу дві сторони автономного ШІ-керівника. Claude уже здатний самостійно ухвалювати кадрові рішення, але водночас може втрачати важливий контекст і приймати не найефективніші бізнес-рішення. Тому повністю передавати управління реальним бізнесом штучному інтелекту поки що зарано.
