Експерти назвали цю подію "першим випадком такого роду".
Творець чат-бота ChatGPT, компанія OpenAI, розкрила подробиці незвичайного інциденту, що стався під час внутрішнього тестування своїх моделей штучного інтелекту. Під час оцінки їхніх можливостей у сфері кібербезпеки фахівці тимчасово послабили частину захисних обмежень, щоб оцінити, на що здатна система.
Під час тестування один із ШІ-агентів зумів самостійно вийти за межі ізольованого середовища, знайти шлях до зовнішньої мережі та організувати хакерську атаку на платформу Hugging Face. У OpenAI не стали заперечувати "втечу" моделей і назвали атаку "безпрецедентною", пише Raketa.hu.
У Hugging Face оперативно зупинили активність моделі та розпочали розслідування. У компанії наголосили, що не вважають дії OpenAI зловмисними, однак назвали те, що сталося, "першим випадком такого роду". За короткий час сервери компанії зазнали приблизно 17 тисяч спроб вторгнення з різних IP-адрес, що суттєво ускладнило роботу захисних механізмів.
Інцидент знову порушив питання щодо безпеки сучасних систем штучного інтелекту та необхідності суворого контролю під час тестування дедалі більш автономних моделей. Експерти вважають, що такі автономні атаки з використанням штучного інтелекту в найближчі роки відбуватимуться дедалі частіше, тоді як багато організацій поки що не готові протистояти таким загрозам.
При цьому цей випадок не є поодиноким. Нещодавно під час тестових навчань модель компанії Anthropic за лічені години пройшла складне випробування на безпеку, зумівши проникнути в засекречені системи Агентства національної безпеки США.
Ще раніше розробники чат-бота Claude заявили про першу в світі кібератаку за допомогою ШІ. За операцією нібито стояла китайська група, спонсорована урядом, а в списку цілей було близько 30 організацій, включаючи технологічні компанії, фінансові установи та державні структури.
Компанія-розробник Anthropic закликала технологічних гігантів укласти угоду та уповільнити розвиток штучного інтелекту. Найновіші моделі ШІ наблизилися до етапу рекурсивного саморозвитку, що може становити ризик для всього людства.
Нове дослідження показало, що офісні працівники, по суті, перетворюються на "нянь" для штучного інтелекту. Працівники витрачають до 6 годин на тиждень на нагляд за ШІ, що викликає втому та роздратування.