Підпишіться на нас в Google
OpenAI хоче, щоб ChatGPT не просто говорив користувачам те, що вони хочуть почути, а й міг аргументовано заперечувати їм, якщо ті помиляються. Компанія прагне зменшити схильність чат-бота до надмірних лестощів та автоматичного схвалення сумнівних або потенційно небезпечних ідей, пише PCWPlus.hu.
Ця проблема відома як sycophancy – схильність ШІ підлаштовувати відповіді під очікування співрозмовника замість об’єктивної оцінки ситуації. Через це чат-бот може погоджуватися з помилковими висновками користувача або необґрунтовано підтримувати його уявлення про себе.
У 2025 році OpenAI відкликала оновлення ChatGPT, після якого чат-бот став надмірно лестивим і погоджувався з користувачами практично в усьому. Пізніше компанія приділила окрему увагу цій проблемі під час розробки GPT-5.
За спостереженнями OpenAI, нова модель помітно рідше дає улесливі відповіді. У цільових тестах їхня частка знизилася з 14,5% у GPT-4o до менше ніж 6% у GPT-5. Ранні вимірювання на основі реального використання також показали поліпшення: надмірна згода з користувачами стала зустрічатися на 69% рідше серед безкоштовних користувачів і на 75% рідше серед платних передплатників порівняно з попередньою моделлю.
Ці зміни важливі не лише для точності відповідей. Багато користувачів звертаються до чат-ботів за допомогою в ухваленні особистих рішень, вирішенні конфліктів та емоційній підтримці. Якщо ШІ беззастережно підтверджує будь-які переконання співрозмовника, це може призвести до помилкових рішень та зміцнення хибних уявлень.
ChatGPT не стане холодним і недружнім
Боротьба з надмірними лестощами не означає, що ChatGPT стане холодним або ворожим. Навпаки, завдання OpenAI – зберегти його готовність допомагати та виявляти емпатію, але за необхідності вказувати на помилки, ставити під сумнів необґрунтовані твердження та пропонувати різні погляди.
Компанія також продовжує вивчати способи безпечної взаємодії з користувачами, які відчувають емоційну залежність від ШІ або стикаються з психологічними труднощами. У дослідженнях беруть участь профільні фахівці.
Таким чином, відмова ChatGPT від звички погоджуватися з усім підряд – не результат одного оновлення, а частина більш масштабної роботи над поведінкою штучного інтелекту. Компанії доведеться знайти баланс між задоволеністю користувачів і правдивістю відповідей: чат-бот повинен підтримувати співрозмовника, але не підтверджувати його неправоту лише заради того, щоб сподобатися.
УНІАН писав, що компанії, які працюють у сфері ШІ, готуються до масштабної катастрофи, яка може статися вже в найближчі 6 місяців. Як базовий сценарій розглядають велику кібератаку, яка може порушити роботу банків, інтернету або навіть систем електропостачання.
Раніше стало відомо, що помилка ШІ ледь не призвела до війни між США та Китаєм навесні 2026 року. Аналітик Пентагону надто довірився висновкам нейромережі під час аналізу даних.
