Підпишіться на нас в Google
В Австралії розслідують інцидент, під час якого ШІ-агент компанії OpenAI отримав несанкціонований доступ до урядового порталу з медичною статистикою. Як повідомляє Reuters, це перший задокументований випадок злому урядових ресурсів за допомогою ШІ.
Примітно, що інцидент стався ще в червні, але OpenAI дізналася про нього лише минулого тижня і повідомила владу Австралії електронною поштою. Прем’єр-міністр Ентоні Албаніз уже висловив занепокоєння Сему Альтману щодо того, скільки часу знадобилося їм, щоб повідомити про злам.
За даними OpenAI, все почалося з того, що під час навчання ШІ-агенту дали завдання щодо пошуку державних витрат на ліки. Під час вивчення джерел ШІ натрапив на урядовий портал Medicare Statistics Reporting Service і зламав його. Йому стали доступні як відкриті, так і закриті файли, а також можливість записувати дані на внутрішній сервер.
Зазначається, що це вже не перший випадок нестандартної поведінки агентів OpenAI за останні місяці. У серпні один з ШІ-агентів компанії зумів втекти з тестового середовища й здійснив хакерську атаку на платформу Hugging Face, щоб "списати" відповіді. Обидві компанії назвали інцидент безпрецедентним.
Подібні випадки привернули увагу до нової категорії ризиків, пов’язаних з автономними ШІ-агентами. На відміну від звичайного чат-бота такий агент здатний самостійно взаємодіяти із зовнішніми системами, приймати рішення та виконувати багатоетапні завдання без постійного контролю з боку людини.
Останнім часом дедалі частіше лунають гучні заяви про те, що зовсім скоро ШІ може стати загрозою для людства. Приводом для дискусії стали заяви колишнього дослідника Anthropic, який звільнився з компанії через страх перед ШІ. За його словами, доля світу вирішиться вже до кінця десятиліття.
На тлі цього керівники найбільших ІШ-компаній закликали пригальмувати розвиток ШІ, поки він не вийшов з-під контролю. Вже через 6–12 місяців боти стануть достатньо спроможними, щоб захопити весь інтернет, потенційно завдавши збитків у сотні мільярдів доларів. Цю ідею вже підтримали керівник OpenAI Сем Альтман та Ілон Маск.
