Джеймс Кемерон порушив своє мовчання крижаним для душі попередженням про штучний інтелект.
В одному з недавніх інтерв'ю знаменитий режисер Джеймс Кемерон звернувся до антиутопічних застережень свого фільму 1984 року "Термінатор" - цього разу не як до наукової фантастики, а як до реальної тривоги про те, куди рухається військовий штучний інтелект.
І хоча це може звучати надто драматично, особливо з вуст голлівудського постановника, проведені ним паралелі стають дедалі відчутнішими в нинішньому геополітичному і технологічному кліматі, пише The Daily Galaxy.
"Я ж попереджав вас ще в 1984-му, хлопці, але ніхто не слухав", - заявив Кемерон. Вона відображає його зростаючу тривогу з приводу перетворення технологій ШІ на зброю. У "Термінаторі" система ШІ Skynet почала ядерну війну після того, як стала самосвідомою. У той час це була чистої води вигадка. Сьогодні ж учені та військові експерти все частіше висловлюють побоювання, що автономні системи озброєнь можуть діяти з мінімальною або зовсім без участі людини.
І ці побоювання не взялися з нізвідки. У 2023 році Інститут досліджень у сфері роззброєння ООН (UNIDIR) попередив про глобальну тенденцію до розвитку летальних автономних систем озброєнь (LAWS). Ці системи здатні самостійно ідентифікувати і вражати цілі без людського контролю і вже активно розробляються або застосовуються щонайменше в дев'яти країнах.
Кемерон вважає, що світ стрімко наближається до точки, де подібні озброєння можуть призвести до нової гонки озброєнь, особливо між найбільшими військовими державами: "Якщо ми не побудуємо це, хтось інший побудує".
Тривога Кемерона зовсім не гіпотетична. У 2020 році доповідь Ради Безпеки ООН повідомила, що автономні дрони могли самостійно атакувати бойовиків у Лівії без участі людини - це стало одним із перших реальних випадків застосування ШІ для нанесення смертельних ударів. Хоча звіт все ще аналізується, він викликав серйозні дискусії у сфері оборонної політики та міжнародного гуманітарного права.
Незважаючи на дедалі гучніші заклики до регулювання ШІ, прогрес іде вкрай повільно. Переговори в рамках Конвенції про деякі види звичайних озброєнь (CCW) так і не привели до створення обов'язкового міжнародного договору про автономні озброєння. Відсутність консенсусу багато в чому пов'язана з геополітичним суперництвом і комерційними інтересами оборонно-технологічного сектора.
На думку Кемерона, саме в цьому регуляторному вакуумі і ховається основна небезпека. "Ми можемо створювати інструменти власного знищення", - сказав він, закликаючи світові уряди встановити жорсткі етичні рамки до того, як такі технології стануть нормою.
Хоча у військовому застосуванні ШІ Кемерон вбачає серйозну загрозу, у кіно і сторітелінгу він ставиться до цього питання спокійніше. Режисер не вважає, що ШІ готовий замінити сценаристів - не тому, що не здатний наслідувати стиль, а тому, що йому бракує емпатії та інтуїції в побудові історії.
"Давайте почекаємо 20 років. І якщо ШІ виграє "Оскар" за найкращий сценарій, тоді я почну сприймати його серйозно", - підкреслив режисер.
Проте він визнає, що ШІ вже змінює індустрію. Інструменти застосовуються у візуальних ефектах, монтажі та передпродакшені, прискорюючи виробництво. Такі програми, як Runway ML, Adobe Sensei і Cuebric, активно використовуються в сучасному кіновиробництві, особливо при створенні концепт-дизайну та оптимізації сцен. І все ж Кемерон скептично ставиться до перспектив домінування сценаріїв, написаних ШІ.
Раніше УНІАН повідомляв, що світові IT-гіганти відмовляються від найму нових співробітників, роблячи ставку на ШІ. Це стосується, наприклад, Intel, IBM і Google. Вони вже почали заморожувати нові посади - і їхня кількість обчислюється "тисячами".
Водночас нейромережа Google під назвою Gemini зовсім нещодавно "впала в депресію". Один із користувачів Twitter опублікував скріншот листування, на якому Gemini говорить: "Я йду. Я явно не здатний вирішити цю проблему. Проклятий код, проклятий тест, а я - дурень", додавши: "Я зробив так багато помилок, що мені більше не можна довіряти".