Архітектура сучасного інтернету несе смертельну загрозу для існування людства, але ще не пізно все виправити.
Машина судного дня не повинна була існувати. Вона була лише уявним експериментом, умовою якого було наступне: уявіть собі пристрій, збудований виключно з метою знищити все людство. Він закопаний глибоко під землею, але під'єднаний до комп'ютера, який, у свою чергу, підтримує зв'язок з сенсорами у великих і малих містах по всій території США.
Сенсори розроблені так, щоб "відчувати" ознаки наближення апокаліпсису. Але їхня мета не зупинити кінець світу, а закінчити його, - пише The Atlantic. Якщо рівні радіації вкажуть на ядерні вибухи, наприклад, у трьох містах США одночасно, сенсори повідомлять про це Машині судного дня. А вона запрограмована підірвати кілька ядерних боєголовок у відповідь.
Читайте такожPolitico: Нікому не цікаві фото з вашого телефону, окрім Китаю
Але мегадес - не єдине, що робить Машину судного дня такою страшною. Реальний жах криється в її автономності, ідеї, що вона запрограмована виявити низку умов у довкіллі, а потім діяти без будь-якого людського втручання.
"Немає жодного шансу для людського втручання, контролю чи фінального ухвалення рішення", - писав військовий стратег Герман Хан у своїй книзі "Термоядерна війна" в 1960-х роках, в якій і була викладена гіпотеза Машини судного дня. Концепція полягала в тому, щоб зробити ядерну війну такою, в якій неможливо перемогти. А отже вона стала немислимою.
Хан дійшов висновку, що автоматизація вимирання всього живого на Землі була б аморальною. Навіть нескінченно малий ризик виникнення помилки вже надто великий, щоб виправдати існування Машини судного дня.
"І навіть якщо відмовитись від комп'ютера і зробити Машину судного дня надійно підконтрольною людям, які ухвалюють рішення, вона все одно буде не достатньо контрольованою", - писав Хан. Жодна машина не повинна бути настільки могутньою, так само як і жодна людина.
СРСР насправді збудував власну версію Машини судного дня в часи Холодної війни. Її називали "мертвою рукою". Але якимсь чарівним чином людство знайшло спосіб жити з бомбою. Тепер потрібно навчитися вижити з соціальними мережами. Люди схильні скаржитися на Facebook так, наче це щось, що тільки нещодавно утворилося. Існує уявлення, що колись соціальні мережі були корисними або, принаймні, мали шанс стати чимсь хорошим, якби люди вчасно потягнули за кілька важелів: трохи модерації й перевірки фактів тут, трошки регуляції там. Можливо варто було б подати у свій час антимонопольний позов.
Читайте такожВ ЄС оштрафували Twitter на 450 тисяч євро через витік даних
"Ніхто, навіть Марк Цукерберг, не здатен контролювати створений ним продукт. Facebook - це не ЗМІ. Це Машина судного дня", - йдеться в статті.
Соціальна мережа робить саме те, для чого вона була збудована. Facebook не існує для того, щоб шукати правду й повідомляти про неї. Він не переслідує мету покращити громадське здоров'я чи притягувати владу до відповідальності. Він не представляє інтереси своїх користувачів, хоча цей феномен може час від часу виникати як побічна дія його існування. Початковою метою компанії було "дати людям силу ділитися й робити світ більш відкритим і об'єднаним". Натомість соціальна мережа взяла концепцію "спільноти" і позбавила її будь-якого морального значення. Наприклад, підйом руху прихильників теорій змови QAnon - це один з логічних результатів існування соціальних мереж.
Тому що Facebook разом з Google і YouTube ідеально підходять для посилення й поширення дезінформації з швидкістю світла й серед глобальної аудиторії. Facebook - агент державної пропаганди, цілеспрямованого цькування, вербування терористів, емоційних маніпуляцій і геноциду. Це історична для світу зброя, яка лежить не під землею, а в технопарку в стилі Диснейленду в Менло Парк, штат Каліфорнія.
Читайте такожWashington Post: Вакцини від COVID-19 потопають у брехні, як це зупинити?
Видання визнає, що порівняння соціальної мережі з Машиною судного дня має свої очевидні обмеження. Зрештою, популярні сайти не можуть перетворити на руїни ціле місто за мить, як ядерна бомба. До того ж, Машина судного дня повинна була б бути умисне створеним пристроєм для організації кінця світу. А Facebook з'явився, тому що не дуже тверезому студенту Гарвардського університету одного вечора стало нудно. Але в обох випадках на кін поставлено питання життя і смерті.
Мегамасштаб майже така ж загроза для існування, як і мегадес. Жодна машина не повинна бути здатною контролювати долю населення планети. І Машина судного дня, і Facebook роблять саме це.
Цикл шкоди від актуальної бізнес-моделі соціальної мережі, яка полягає в збереженні масштабності за будь-яку ціну, не важко помітити. Масштаб і залучення цінні для Facebook, тому що вони цінні для рекламодавців. Тому з'явилися різні кнопки реакції, які заохочують користувачів частіше й легше реагувати на все. А це, в свою чергу, заохотило користувачів ділитися ідеями, які спровокують сильнішу реакцію. Кожен раз, коли ви натискаєте на "лайк", алгоритм фіксує це і чіткіше визначає ваш портрет.
Гіпер-таргетинг користувачів, який став можливий завдяки величезним об'ємам їхніх особистих даних, створює ідеальне середовище для маніпуляцій. І цим користуються рекламодавці, політичні кампанії, емісари дезінформації і, звісно ж, сам Facebook. Останній тримає під контролем, що ви побачите, а що ні на сайті.
Читайте такожРосія поширює брехню про оксфордську вакцину від COVID-19, щоб продати свою – Британія
Ці загрози не теоретичні і вони посилюються магамасштабом, який робить платформу ідеальним місцем для проведення експериментів над людьми. Власне, Facebook провів експеримент з "соціального зараження", не повідомивши своїх користувачів, що вони стали його учасниками. Він діяв як цифрова колоніальна сила, намагаючись стати фактичним і єдиним досвідом взаємодії з інтернетом для людей в усьому світі. Facebook хвалився своєю здатністю впливати на результати виборів. Незаконні воєнізовані групи використали Facebook для організації. Уряди користуються ним, щоб дурити своїх громадян і змінювати хід виборів. Військові досліджували придатність Facebook для організації геноциду.
Навіть після того, як розвідка США визнала Facebook головним полем битви в інформаційній війні й інструментом іноземного втручання у вибори 2016 року, соціальна мережа не змогла зупинити поширення екстремізму, мови ненависті, пропаганди, дезінформації й теорій змови на своїй платформі. Неонацисти лишаються активними на Facebook, купуючи рекламу навіть після того, як їх формально заблокували. І лише в жовтні 2020 року компанія оголосила, що буде видаляти всі групи й сторінки, присвячені теоріям змови QAnon, а також заперечення Голокосту. Але попри все це, Facebook регулярно розсилає своїм користувачам електронні листи, рекомендуючи найновіші сторінки QAnon.
У перші дні після виборів президента США в 2020 році Цукерберг дозволив змінити алгоритм Facebook, щоб сторінки ЗМІ, які поширюють правдиву інформацію, отримали пріоритет. Так вони частіше з'являлися в стрічці користувачів. А гіперполітизовані сторінки, такі як Breitbart News і Occupy Democrats, повинні були бути поховані. Це, на думку New York Times, доводить, що Facebook може, якщо захоче, перекрити кран потоку дезінформації. А також це доводить, що у владі соціальної мережі впливати на те, що мільярди людей побачать.
Читайте такожAssociated Press: У США вистежили агентів ГРУ, які поширюють брехню про коронавірус
Мегамасштаб соціальної мережі наділяє Цукерберга безпрецедентним впливом на глобальне населення. Якщо він не найвпливовіша людина на планеті, тоді він дуже близький до цього.
"Це божевілля, що хтось має таку владу над висловлюванням і мовчанням, не кажучи вже про те, щоб бути власником алгоритмів, які визначають фактично все в інтернеті. Речі, якими він керує, настільки заразні й так сильно впливають на переконання людей, що здатні вплинути на те, як вони вчинять зі своєю ядерною зброєю чи доларами", - сказав колишній чиновник Білого дому Джошуа Гелцер, який займався питаннями боротьби з тероризмом.
Якщо хоч хтось серйозно хоче скоротити шкоду від соціальних мереж для людства, йому варто подумати над тим, щоб видалити свої сторінки в Facebook, Instagram і Twitter, а також в будь-яких інших викривлених алгоритмами інформаційних середовищах, які маніпулюють людьми. Але варто прийняти більш широкий погляд на те, як виправити зламаність соціальних мереж. Для цього доведеться кинути виклик логіці сучасних платформ. А в першу чергу потрібно розібратися з самою концепцією мегамасштабу як способу збору людей.
Читайте такожThe Guardian: MI5 і MI6 провалили боротьбу з Росією
Інтернет - це все ще добро для людства, але всупереч соціальним мережам, а не завдяки їм. Потрібно також знайти способи виправити аспекти наших суспільств і культури, яким соціальні мережі завдали великої шкоди. Для цього знадобляться інтелектуальна незалежність, ввічливі дебати і такий же бунтівний дух, який дав початок епосі Просвітництва багато століть тому.