Підпишіться на нас в Google
Компанія-розробник Anthropic, яка створила популярне сімейство мовних моделей Claude, опублікувала на своєму сайті статтю із закликом уповільнити або призупинити розвиток ШІ. Один з її авторів – співзасновник Anthropic Джек Кларк, який раніше працював в OpenAI.
Керівництво компанії підкреслює, що найновіші моделі ШІ перебувають на порозі рекурсивного самовдосконалення – здатності розвиватися без прямого контролю людини. Як буде виглядати світ, де ШІ зможе вдосконалювати себе сам, в Anthropic не знають, проте підкреслюють, що це може нести ризики для всього людства:
"Якщо системи стануть здатними самостійно створювати нащадків, то способи їх захисту, моніторингу та формування поведінки стануть набагато важливішими, ніж зараз", – йдеться в матеріалі.
Стаття закликає лідерів у галузі штучного інтелекту укласти угоду та уповільнити розвиток технології, щоб дати суспільству більше часу на адаптацію. При цьому розробники Claude розуміють, що реалізувати це досить складно, тому що приховати розробку нової моделі простіше, ніж будівництво нової ракетної шахти.
Однак Anthropic у будь-якому разі вважає, що індустрії ШІ треба "зняти ногу з педалі газу і натиснути на гальмо".
Раніше Сем Альтман, керівник OpenAI, говорив, що людство стоїть на порозі створення цифрового "надрозуму", і цей процес неминучий. Через пару років ШІ робитиме наукові відкриття, "які люди не могли б зробити самі".
Раніше схожий прогноз давав засновник xAI Ілон Маск. За його словами, ШІ вже розумніший за більшість людей, а до кінця поточного десятиліття стане розумнішим за всіх людей разом узятих.
УНІАН писав, що творці ChatGPT можуть збанкрутувати вже до середини 2027 року. Ключова проблема OpenAI полягає в тому, що значна частина користувачів використовує безкоштовні версії чат-ботів, тож вони швидше перейдуть до конкурентів, ніж почнуть платити.
