Персонал був невдоволений роботою автоматизованих помічників і саботував роботу ШІ-систем.
Компанія Amazon під час тестування нової системи на базі штучного інтелекту для управління персоналом зіткнулася з несподіваним опором з боку власних менеджерів. Про це пише yahoo.com із писланням на документи та внутрішні листування, отримані журналістами.
У публікації йдеться, що Amazon тестує нові інструменти штучного інтелекту для оптимізації роботи складів і логістики. На тлі зростання попиту на максимально швидку доставку замовлень компанії потрібно було удосконалити логістичні процеси.
За даними видання, на ранньому етапі впровадження інструментів ШІ працівники нерідко ігнорували рекомендації бота, знаходили способи обійти їх або повністю вимикали окремі компоненти системи, якщо вважали власні рішення більш правильними. Через це керівництво компанії дійшло висновку, що добровільне виконання рекомендацій не працює належним чином.
Саме тому вже цього року компанія вирішила запровадити жорсткіший контроль за виконанням рекомендацій алгоритмів. Водночас представник Amazon заявив журналістам, що витік документів не відображає повної картини, і, за його словами, у менеджерів й надалі залишається право ухвалювати остаточні рішення, тоді як ШІ-інструменти залишаються допоміжними.
"Менеджери, як і раніше, ухвалюють рішення – ця технологія лише надає їм кращу інформацію для прийняття цих рішень і звільняє більше часу, який вони можуть присвятити підтримці своїх команд", - заявив представник Amazon.
Однак, як пише yahoo.com, злиті документи свідчать про те, що частини керівників складів невдоволені роботою нової системи. Деякі з них просили керівництво "вимкнути застосунок просто зараз" або тимчасово відключити його до усунення недоліків.
Серед основних претензій працівників була нездатність алгоритмів враховувати індивідуальні особливості співробітників. У компанії пояснили, що ці зауваження стосувалися лише початкового етапу тестування, коли персонал ще звикав до нових інструментів, а самі відгуки використали для подальшого вдосконалення системи.
У Amazon також запевнили, що нинішня версія програмного забезпечення суттєво відрізняється від ранніх тестових зразків.
"Ми діємо виважено, визначаючи, де ця технологія має найбільший сенс, і вносимо корективи, перш ніж ухвалити рішення про її масштабування", – зазначив представник компанії.
Як писав УНІАН, у Китаї набули чинності нові правила, які забороняють чат-ботам штучного інтелекту формувати надмірну емоційну залежність користувачів. Це викликало хвилю скарг у соцмережах, де люди описують втрату своїх "віртуальних партнерів" як справжній розрив стосунків.
Влада пояснює, що нові норми мають запобігти ізоляції користувачів від реального життя та зберегти навички емпатії.