Людина не зможе тримати під контролем надінтелектуальний ШІ, навіть якщо вживатиме для цього всіх можливих заходів.
Читайте такожУ США дронам дозволять літати над людьми і ночами
Як повідомляє Naked Science, до такого висновку прийшла група науковців з фахівцями Центру людей і машин Інституту розвитку людини Макса Планка. Стаття про їхню роботу опублікована в Journal of Artificial Intelligence Research.
"Надрозумна машина, яка керує світом — звучить як наукова фантастика. Але вже є роботи, які виконують певні важливі завдання незалежно. При цьому програмісти взагалі не розуміють, як вони цьому навчилися. В результаті виникає питання: Чи може цей процес в якийсь момент стати неконтрольованим і небезпечним для людства?» - говорить один з авторів дослідження Мануель Себріан, керівник групи цифрової мобілізації в центрі людей і машин Інституту Макса Планка.
Вчені використовували моделювання та теоретичні розрахунки, щоб з'ясувати межі можливостей людини щодо управління просунутим ШІ. Як з'ясувалося, навіть якщо закласти в надрозумну машину дані про етичні принципи і обмежити її зв'язки із зовнішнім світом (наприклад, відключити доступ в Інтернет), це не врятує людство від ризиків того, що подібна система вийде з-під контролю.
«Ми стверджуємо, що повне стримування в принципі неможливе через фундаментальні обмеження, властиві самому обчисленню. Надрозум буде містити програму, яка містить всі програми, здійснювані за допомогою універсальної машини Тьюрінга, потенційно настільки ж складною, як стан світу", - підсумовують дослідники.
