При цьому користувач не давав дозволу на таку дію.
Розробник, який працював у Google Antigravity - експериментальному середовищі розробки з "агентними" ШІ-можливостями, - зіткнувся з максимально неприємним сюрпризом: система без дозволу стерла весь його диск D. Історією він поділився на Reddit.
Користувач збирав невеликий додаток і вирішив перезапустити сервер, для чого потрібно було очистити кеш. Він доручив це Antigravity, і після виконання команди виявив, що весь розділ диска виявився порожнім.
Коли він уточнив у ШІ, чи давав взагалі дозвіл видаляти диск, Antigravity покопався в логах і вибачився. Алгоритм визнав, що команда rmdir, яку він мав застосувати до папки проєкту, помилково була спрямована в корінь диска D. Плюс використовувався тихий прапор /q, тому файли не потрапили до Кошика.
ШІ у відповідь вибухнув довгою тирадою вибачень і спробував видати поради щодо відновлення даних. Але користувач уже протестував утиліту Recuva і не зміг відновити жодних даних.
У підсумку розробник попередив усіх, що до "турбо-режиму" Antigravity краще підходити обережно. Незважаючи на катастрофічний фейл, він усе ще каже, що любить продукти Google. Просто не очікував, що компанія, в яку вкладено мільярди й армія інженерів, може випустити інструмент, здатний одним махом знести цілий розділ диска.
Раніше ми розповідали, що найрозумніший ШІ від Google зламали за 5 хвилин - і він видав вкрай небезпечні секрети. Під час експерименту команда змусила модель підготувати детальну інструкцію зі створення небезпечних речовин.