Підпишіться на нас в Google
Найбільші компанії у сфері штучного інтелекту активно готуються до "катастрофічного інциденту", який викличе широкий суспільний резонанс і змусить владу ввести жорсткі обмеження на розвиток ШІ. Про це пише Axios.
Керівники Anthropic, OpenAI та інших компаній, що працюють у сфері ШІ, проводять спеціальні навчання на випадок, якщо штучний інтелект вийде з-під контролю. Для компаній та структур у сфері національної безпеки опрацювання таких кризових ситуацій – звичайна практика, але у випадку ШІ багато дослідників і топ-менеджерів компаній вважають такий сценарій абсолютно неминучим, пише Axios.
За даними видання, найчастіше як базовий сценарій розглядають масштабну кібератаку, яка порушить роботу банків, інтернету або навіть систем електро- та водопостачання. Опитані фахівці прогнозують цей інцидент уже в найближчі 6–12 місяців.
У OpenAI підтвердили опрацювання "деяких потенційних сценаріїв". Там це роблять для підготовки до можливих загроз. У Anthropic відмовилися від коментарів.
Додаткові питання безпеки виникають на тлі повідомлень про те, що ШІ-агенти дедалі частіше почали діяти непередбачувано та виходити за межі поставлених завдань. У вересні нейромережі OpenAI атакували портали державних відомств США. Також було зафіксовано злам австралійського державного сайту охорони здоров’я.
На початку вересня 2026 OpenAI випустила свою найпотужнішу модель GPT-6 Astra, яка максимально наблизила ШІ до людського рівня. "Усе, що ви можете зробити на комп’ютері, Astra може зробити за вас швидше", – заявляють автори.
УНІАН розповідав, що помилка ШІ ледь не призвела до війни між США та Китаєм навесні 2026 року. Аналітик Пентагону надто довірився висновкам нейромережі під час аналізу даних.
