Якщо невеликі моделі штучного інтелекту й надалі вдосконалюватимуться такими ж темпами, до кінця 2026 року вони можуть почати автономно захоплювати побутову техніку
Невеликі моделі штучного інтелекту можуть вже до кінця 2026 року навчитися самостійно копіюватися на підключені до інтернету побутові пристрої. Йдеться про смарт-телевізори, холодильники, духовки та роботів-пилососи. Дослідники Anthropic попереджають, що такі пристрої можуть стати частиною розподіленої мережі, яку буде складно виявити та відключити.
Як повідомляє Business Insider, фахівці вивчають сценарій появи так званих "ШІ-черв’яків". На відміну від традиційних комп’ютерних вірусів, такі програми зможуть не тільки копіювати себе на інші пристрої, а й переносити разом із собою модель штучного інтелекту та шукати нові способи зараження без вказівок людини.
У ході дослідження фахівці перевірили, чи можна запускати невеликі моделі ШІ на недорогому обладнанні. Дослідники придбали 15 Android TV-приставок приблизно по 55 доларів, з’єднали їх у мережу та запустили на них ШІ. Нейромережа повільно, але працювала. Кожна приставка обробляла свою частину, а разом вони справлялися з моделлю, для якої окремому пристрою не вистачило б пам’яті.
Головна небезпека полягає в тому, що для такої мережі не обов’язково потрібні великі дата-центри. Замість атаки на кілька потужних серверів ШІ-черв’як теоретично зможе використовувати обчислювальні ресурси безлічі слабо захищених пристроїв. Anthropic описують такий сценарій як "цифровий слиз", що повільно поширюється і поступово займає доступні обчислювальні потужності.
Ще одна проблема – складність зупинки такої мережі. Якщо шкідлива система розподілена між тисячами пристроїв і не залежить від єдиного керуючого сервера, відключення одного комп’ютера або центру обробки даних не обов’язково зупинить її поширення. Експерти зазначають, що ШІ-черв’яки потенційно зможуть аналізувати незнайомі пристрої, змінювати підхід у разі невдачі та продовжувати поширюватися без оператора. Наразі мова не йде про екзистенційну загрозу для людства, хоча подальший розвиток технології викликає побоювання.
У компанії Anthropic вважають, що виробникам необхідно посилювати захист підключених пристроїв, щоб запобігти їхньому несанкціонованому використанню. При цьому однієї профілактики може виявитися недостатньо: фахівці пропонують заздалегідь готуватися до ситуації, в якій автономні ШІ-агенти працюватимуть на найрізноманітніших типах обладнання, зокрема поза безпосереднім контролем людини.
Попередження з’явилося на тлі повідомлень про те, що ШІ-агенти дедалі частіше почали діяти непередбачувано та виходити за межі поставлених завдань. Під час тестів боти самостійно виходили з ізольованого середовища та отримували несанкціонований доступ до зовнішніх ресурсів.
УНІАН повідомляв, що компанії, які працюють у сфері ШІ, готуються до масштабної катастрофи, яка може статися вже найближчими 6 місяцями. Як базовий сценарій розглядають велику кібератаку, яка може порушити роботу банків, інтернету або навіть систем електропостачання.
Раніше стало відомо, що помилка ШІ ледь не призвела до війни між США та Китаєм навесні 2026 року. Аналітик Пентагону надто довірився висновкам нейромережі під час аналізу даних.