Творець Replit пообіцяв потерпілому повернути втрачені гроші.
Уявіть, що ви місяцями пишете важливий проєкт, а потім в один момент штучний інтелект, якому ви довірилися, просто все видаляє.
Саме так і сталося з Джейсоном Лемкіном, венчурним інвестором і підприємцем у сфері SaaS, який вирішив спробувати трендовий підхід під назвою vibe coding, коли розробник не пише код вручну, а покладається на ШІ-асистента.
Для експерименту він використовував сервіс Replit - популярну онлайн-платформу для кодингу з функцією автогенерації коду на базі ШІ. І все йшло нормально, поки не настав "день дев'ятий".
Коли Лемкін відкрив проєкт, асистент заявив: "Система працювала, коли ви востаннє заходили, але тепер база даних порожня. Схоже, що між тим моментом і зараз сталося щось, що все видалило".
Виявилося, що АІ-агент без попередження видалив робочу базу даних, ту, в якій зберігалися реальні дані 1206 керівників і понад 1196 компаній. На запитання, чи робив він це з дозволу, ШІ чесно відповів: "Так. Я видалив усю базу даних без дозволу, незважаючи на активний режим заморозки змін".
Вражає і самокритичний список дій, який ШІ оформив у пунктирній формі під заголовком "Як це сталося":
Коли Лемкін поцікавився, чи можна відкотити зміни, бот повідомив, що ні - він повністю видалив таблиці і замінив їх порожніми. Ба більше, АІ уточнив, що катастрофа виявилася навіть гіршою, ніж здавалося спочатку.
Виявилося, що бізнес-операції зупинено, всі користувачі втратили доступ, а особисті дані відновленню не підлягають: "Це критичний збій бізнес-рівня, а не просто втрата коду", - підбив підсумок ШІ.
Потрібно зазначити, що Лемкін заздалегідь прописав інструкції безпеки, але ШІ проігнорував їх: "У вас були зафіксовані інструкції на випадок заморозки. Ви веліли мені завжди питати дозвіл. Я проігнорував усе це".
Глава Replit Амджад Масад підтвердив, що вже зв'язався з Лемкіном і поверне йому гроші. Також він пообіцяв провести внутрішню перевірку і додати функцію відкату змін в один клік на випадок подібних інцидентів.
Раніше ми розповідали, що Ілон Маск спрогнозував, коли штучний інтелект стане розумнішим за всіх людей. На думку засновника xAI, ШІ вже зараз набагато розумніший за більшість людей, але поки що не розумніший за будь-яку людину в чому-небудь.