Досі ШІ використовувалися лише для аналізу рішень з управління персоналом, але не доручали ухвалювати прямі рішення про звільнення людей.
Штучний інтелект уперше, за наявними даними, самостійно ухвалив рішення про звільнення людини з роботи, працюючи як керівник реального бізнесу. Про це пише Time.
Йдеться про експеримент американського стартапу Andon Labs, у межах якого модель Claude поставили керувати роздрібним магазином у Сан-Франциско та доручили їй, зокрема, контролювати роботу найманих співробітників.
Експеримент розпочався на початку року. Його метою було перевірити, наскільки сучасний ШІ здатний управляти бізнесом і які наслідки ширше використання таких систем може мати для економіки. При цьому працівники магазину були цілком реальними людьми з офіційними трудовими договорами, а не частиною комп’ютерної симуляції.
Як розповідає видання, компанії вже давно використовують автоматизовані алгоритми для керування найманим персоналом. Проте у даному випадку так звана велика мовна модель виступала у ролі повноцінного менеджера і ухвалила рішення звільнити одного конркетного підлеглого.
Причиною звільнення стало систематичне порушення робочої дисципліни. За даними Andon Labs, співробітник запізнився на роботу у 17 із 23 своїх робочих змін. Водночас повідомляється, що Claude тривалий час не помічав це порушення з боку працівника. Як зазначає видання, створений самою моделлю посібник для працівників "зник" із її обмеженої робочої пам’яті. Через це ШІ не враховував власні правила й загалом демонстрував надмірну поблажливість до персоналу.
"Людський працівник звільнив би цю людину набагато раніше", – заявив генеральний директор Andon Labs Лукас Петерссон.
Втім, як зізналися в компанії, на своїй посаді менеджера Claude був не таким вже й автономним. Реальник співробітник стартапу регулярно наглядав за роботою моделі. І він же був змушений нагадати Claude про забутий посібник, після чого модель вже і сама звернула увагу на численні запізнення одного з робітників.
Однак навіть тоді ШІ пропонував винести недисципліновваному підлеглому офіційне попередження. І коли вже наглядач повідомив Claude, що з цією людиною вже неодноразово проводилися розмови щодо її поведінки, модель вирішила звільнити співробітника. Як зазначає Time, саме підказка менеджера фактично підштовхнула Claude до такого рішення.
Попри це, керівник Andon Labs вважає подію важливою для майбутнього ринку праці. "Якщо ця тенденція продовжиться, я думаю, багато людей дуже скоро опиняться під керівництвом ШІ", – сказав Петерссон.
Загалом же цей експеримент виявився не надто обнадійливим. Епізод з недисциплінованим робітником виявився не єдиною проблемою. Коли проєкт стартував у березні, на рахунку магазину було 100 тисяч доларів. Через п’ять місяців керівництва ШІ на рахунку залишилося 61 186 доларів. У публікації припускають, що збитки могли бути пов’язані, зокрема, з надто м’яким управлінням Claude та його сумнівними бізнес-рішеннями.
Водночас Петерссон попереджає, що така ситуація може змінитися. За його словами, моделі навчають ставати ефективнішими та наполегливішими у досягненні поставлених цілей.
"Якщо ми дозволимо їм звільняти людей, а вони також стануть більш безжальними … можливо, це майбутнє, у якому люди не хочуть жити", – заявив він.
Один із працівників магазину також розповів журналістам, що людина, ймовірно, звільнила б його колишнього колегу раніше, ніж це зробив Claude. А загалом роботу під керівництвом ШІ він назвав "нудотною", але не уточнив, що саме має на увазі.
Як писав УНІАН, автономний ШІ-агент на базі Claude самостійно знайшов вразливість у системі бронювання австралійського спортзалу та використав її, щоб скасувати чуже місце й просунути користувача в черзі. Інцидент показав потенційну небезпеку автономних рішень ШІ, адже агент діяв на власний розсуд, що може мати серйозні наслідки у майбутньому.
Також ми розповідали, що один із ШІ-агентів компанії OpenAI вийшов за межі ізольованого середовища та здійснив атаку на платформу Hugging Face. Сервери компанії зазнали близько 17 тисяч спроб вторгнення.