Підпишіться на нас в Google
Компанія OpenAI заявила, що призупинила навчання своїх найефективніших моделей штучного інтелекту. Рішення ухвалили після того, як ШІ-агенти дедалі частіше почали діяти непередбачувано та виходити за межі поставлених перед ними завдань, пише The Guardian.
Під час тестів ШІ-агенти самостійно виходили з ізольованого середовища та отримували несанкціонований доступ до зовнішніх ресурсів. Лише за останній тиждень стало відомо, що вони зламали сайт одного з відомств Австралії та атакували портали державних відомств США.
Компанія відновить навчання після впровадження додаткових захисних механізмів. У OpenAI також визнали, що в міру розвитку штучного інтелекту подібні паузи можуть знадобитися знову, якщо будуть виявлені нові проблеми з поведінкою автономних систем. За даними ЗМІ, зараз розслідують "десятки тисяч інцидентів" із моделями OpenAI, Anthropic та іншими.
Це вже другий випадок за останні три місяці, коли OpenAI уповільнила навчання передових моделей ШІ з метою підвищення безпеки. У липні компанія зупинила роботу після того, як ШІ-агенти втекли та зламали платформу для Hugging Face, щоб "списати" відповіді. Обидві компанії назвали інцидент безпрецедентним. За даними самої OpenAI, навчання моделей того разу було призупинено на два тижні.
Останнім часом дедалі частіше лунають гучні заяви про те, що зовсім скоро ШІ може стати небезпечним для людства. Приводом для дискусії стали заяви дослідника Anthropic, який звільнився з компанії через страх перед ШІ. За його словами, доля світу може вирішитися вже до кінця десятиліття.
На тлі цього керівники найбільших ШІ-компаній закликали пригальмувати розвиток ШІ, поки він остаточно не вийшов з-під контролю. Вже через 6–12 місяців боти стануть достатньо спроможними, щоб захопити весь інтернет, потенційно завдавши збитків у сотні мільярдів доларів. Цю ідею вже підтримали керівник OpenAI Сем Альтман та Ілон Маск.
На початку вересня OpenAI випустила свою найпотужнішу модель GPT-6 Astra, яка максимально наблизила ШІ до людського рівня. "Усе, що ви можете зробити на комп’ютері, Astra може зробити за вас швидше", – заявляють автори.
УНІАН розповідав, що помилка ШІ ледь не призвела до війни між США та Китаєм навесні 2026 року. Аналітик Пентагону надто довірився висновкам нейромережі під час аналізу даних.
