Понад 850 експертів зі штучного інтелекту, підприємців і громадських діячів підписали відкриту заяву із закликом зупинити розробку надінтелекту - ШІ, який здатний перевершити людину практично у всіх когнітивних завданнях. Про це повідомляє CNBC.
Серед підписантів - засновник Virgin Річард Бренсон, співзасновник Apple Стів Возняк, а також ключові фігури в розвитку ШІ - Йошуа Бенжіо, Джеффрі Хінтон і професор Каліфорнійського університету в Берклі Стюарт Рассел.
Ці дослідники, яких називають "хрещеними батьками штучного інтелекту", попереджають, що створення надінтелекту без контролю може призвести до обмеження свобод людей, загроз безпеці та навіть ризику вимирання людства.
Автори заяви вимагають тимчасової заборони на розробку таких систем, принаймні доти, доки не з'явиться науковий консенсус і широка громадська підтримка, які підтвердять, що надінтелект можна створити і безпечно контролювати.
До ініціативи долучилися не тільки фахівці з технологій, а й представники найрізноманітніших сфер: учені, журналісти, релігійні лідери, колишні політики.
Серед підписантів опинилися екс-глава Об'єднаного комітету начальників штабів США Майк Маллен, колишній радник із нацбезпеки Сьюзан Райс, а також Стів Беннон і Гленн Бек, відомі союзники Дональда Трампа. З більш несподіваних імен - принц Гаррі та Меган Маркл, а також експрезидентка Ірландії Мері Робінсон.
У заяві підкреслюється, що навіть лідери найбільших компаній, що працюють зі ШІ, усвідомлюють небезпеку занадто швидкого прогресу. Так, Сем Альтман ще 2015 року писав, що розвиток надлюдського інтелекту - це, ймовірно, головна загроза існуванню людства, а Ілон Маск оцінив імовірність катастрофічного результату від створення такого ШІ у 20%.
Один з ініціаторів заяви, Йошуа Бенжіо, зазначив, що вже за кілька років ШІ може перевершити більшість людей у більшості розумових завдань:
"Щоб безпечно рухатися в бік надінтелекту, потрібно науково визначити, як створювати системи, які в принципі не здатні заподіювати шкоду - ні через помилки, ні через зловмисне використання".
Раніше ми розповідали, що творець ChatGPT вважає, що штучний інтелект усвідомить себе в найближчі 5 років. Дивно, але це не сильно вплине на життя людей, підсумував Сем Альтман.
