Колишній дослідник компанії "Антропік" заявив, що штучний інтелект може стати загрозою для існування людства вже до кінця десятиліття.
Штучний інтелект може вийти з-під контролю та становити екзистенційну загрозу для людства вже до кінця цього десятиліття. Таку тривожну оцінку озвучив колишній дослідник компанії "Антропік" Джейкоб Коксон, а один із нинішніх керівників її команди з безпеки заявив, що також серйозно стурбований швидкістю самовдосконалення ШІ, пише HVG.
Джейкоб Коксон, який раніше працював в Open AI, залишив "Антропік", де займався навчанням систем штучного інтелекту. Свій відхід він пояснив тим, що компанія, на його думку, недостатньо серйозно ставиться до питань безпеки.
У дописі в соцмережі Х дослідник заявив, що Open AI та "Антропік" фактично змагаються у створенні самовідтворюваного суперінтелекту. За словами Коксона, компанії роблять це попри те, що самі розробники ШІ усвідомлюють потенційний ризик катастрофічного сценарію.
"Вони граються з нашими життями", – заявив дослідник.
Коксон вважає, що в разі появи системи, здатної самостійно вдосконалювати себе, розвиток технології може стати неконтрольованим.
Особливу увагу привернула реакція Евана Хабінгера, керівника однієї з команд безпеки "Антропік". Він відповів на допис Коксона і заявив, що також занепокоєний темпами самовдосконалення штучного інтелекту.
За його словами, цей процес "відбувається швидше, ніж ми думали". Хабінгер також заявив:
"Ми справді вважаємо, що штучний інтелект має потенціал знищити все людство".
При цьому він оцінив імовірність такого сценарію більш ніж у 10%.
Головне занепокоєння дослідників полягає у можливості створення системи, яка зможе самостійно покращувати власні можливості. Теоретично це може запустити своєрідну спіраль розвитку, швидкість якої люди вже не зможуть контролювати.
Фахівці з безпеки ШІ роками попереджають про подібні ризики. Водночас нині штучний інтелект уже здатний створювати частину програмного коду, який використовується для подальшої розробки технологій.
Хабінгер стверджує, що "Антропік" наразі не має достатнього плану, який гарантував би безпеку надзвичайно потужних систем штучного інтелекту та їхню відповідність людським цінностям.
Подібні побоювання раніше висловлював і Нобелівський лауреат Джеффрі Хінтон, якого називають одним із піонерів сучасного штучного інтелекту. Він неодноразово попереджав про потенційно небезпечні наслідки стрімкого розвитку цієї технології.