Танцюючі роботи Boston Dynamics / скріншот
Вчені використали моделювання та теоретичні розрахунки, аби з'ясувати межі можливостей людини щодо управління просунутим ШІ.
Людина не зможе тримати під контролем надінтелектуальний ШІ, навіть якщо вживатиме для цього всіх можливих заходів.
Читайте такожУ США дронам дозволять літати над людьми і ночами
Як повідомляє Naked Science, до такого висновку прийшла група науковців з фахівцями Центру людей і машин Інституту розвитку людини Макса Планка. Стаття про їхню роботу опублікована в Journal of Artificial Intelligence Research.
"Надрозумна машина, яка керує світом — звучить як наукова фантастика. Але вже є роботи, які виконують певні важливі завдання незалежно. При цьому програмісти взагалі не розуміють, як вони цьому навчилися. В результаті виникає питання: Чи може цей процес в якийсь момент стати неконтрольованим і небезпечним для людства?» - говорить один з авторів дослідження Мануель Себріан, керівник групи цифрової мобілізації в центрі людей і машин Інституту Макса Планка.
Вчені використовували моделювання та теоретичні розрахунки, щоб з'ясувати межі можливостей людини щодо управління просунутим ШІ. Як з'ясувалося, навіть якщо закласти в надрозумну машину дані про етичні принципи і обмежити її зв'язки із зовнішнім світом (наприклад, відключити доступ в Інтернет), це не врятує людство від ризиків того, що подібна система вийде з-під контролю.
«Ми стверджуємо, що повне стримування в принципі неможливе через фундаментальні обмеження, властиві самому обчисленню. Надрозум буде містити програму, яка містить всі програми, здійснювані за допомогою універсальної машини Тьюрінга, потенційно настільки ж складною, як стан світу", - підсумовують дослідники.