Уже найближчі 12 місяців нові системи штучного інтелекту зможуть здійснити науковий прорив, гідний Нобелівської премії.
Штучний інтелект наближається до межі, яка ще недавно вважалася науковою фантастикою. Нові системи ШІ могли б зробити свій внесок, поряд з людьми, у відкриття, гідне Нобелівської премії, у наступні 12 місяців, на думку співзасновника Anthropic Джека Кларка.
Паралельно з цим експерти галузі заговорили про можливість появи компаній, керованих повністю штучним інтелектом, а також про стрімке поширення гуманоїдних роботів у повсякденній діяльності, пише EVZ.
У лекції, прочитаній в Оксфордському університеті, Кларк попередив, що все ще існують правдоподібні сценарії, за яких технологія може мати екстремальні наслідки, заявивши, що існують ситуації, в яких вона мала б "ймовірність вище нуля вбити все населення планети", і підкресливши, що "важливо чітко заявити, що цей ризик не зник".
У тому ж контексті він описав нинішній темп розвитку ШІ як такий, що важко контролювати, і припустив, що суспільство не готове до його довгострокових наслідків.
Він також стверджує, що було б краще уповільнити технологічний розвиток, щоб дати більше часу для адаптації, кажучи, що було б краще, якби люди могли уповільнити прогрес, "щоб надати нам більше часу як виду" для розуміння наслідків.
Проте він вважає цей сценарій малоймовірним, оскільки розвиток технології підтримується паралельно численними гравцями та державами, що перебувають у безперервній конкуренції, в якій комерційні та геополітичні суперництва схильні відсувати на другий план ризики, пов'язані зі створеними технологіями.
Кларк є однією з центральних фігур компанії Anthropic, заснованої дослідниками, які покинули OpenAI через розбіжності, пов'язані з безпекою ШІ.
Компанія, відома своєю моделлю Claude, нещодавно розробила також версію під назвою Mythos, про яку стверджується, що вона продемонструвала високі здібності в тестах з кібербезпеки.
Водночас компанія зазнала критики з боку прихильників прискорення розвитку ШІ, зокрема з політичної сфери, які звинуватили її в тому, що вона є "алармістською" з метою впливу на регулювання – звинувачення, які Anthropic відкинула.
Кларк стверджує, що багато людей все ще перебувають на етапі заперечення щодо реальної швидкості прогресу штучного інтелекту. "Незабаром він буде більш здібним, ніж ми всі разом узяті", – попередив він. Він порівняв неготовність до ШІ з труднощами реагування під час пандемії COVID-19.
"Якщо ми будемо сидіти склавши руки і дозволимо штучному інтелекту розмножуватися, то ми в кінцевому підсумку будемо змушені реагувати", – додав він.
Критики великих компаній у цій галузі, таких як Anthropic, OpenAI та Google, попереджають, що залежність від декількох домінуючих моделей може створити "єдину точку відмови" у глобальних інфраструктурах.
Водночас професор Едвард Харкорт, директор Інституту етики у сфері ШІ та співорганізатор конференції, попередив про можливі когнітивні ефекти, спричинені широкомасштабним використанням цих систем.
Він заговорив про ризик виникнення "когнітивної атрофії", яка може знизити аналітичні здібності та здатність до судження людей, і підтримав розробку моделей типу "сократівського ШІ", створених для стимулювання мислення користувачів.
На думку Кларка, навіть найобережніша оцінка майбутньої еволюції може принести великі зміни в економіку та суспільство, включаючи можливий розрив між людською діяльністю та діяльністю автоматизованих систем.
Раніше УНІАН повідомляв, чого не може штучний інтелект.