Facebook лише своїм існуванням загрожує людству / фото REUTERS

Машина судного дня не повинна була існувати. Вона була лише уявним експериментом, умовою якого було наступне: уявіть собі пристрій, збудований виключно з метою знищити все людство. Він закопаний глибоко під землею, але під'єднаний до комп'ютера, який, у свою чергу, підтримує зв'язок з сенсорами у великих і малих містах по всій території США.

Сенсори розроблені так, щоб "відчувати" ознаки наближення апокаліпсису. Але їхня мета не зупинити кінець світу, а закінчити його, - пише The Atlantic. Якщо рівні радіації вкажуть на ядерні вибухи, наприклад, у трьох містах США одночасно, сенсори повідомлять про це Машині судного дня. А вона запрограмована підірвати кілька ядерних боєголовок у відповідь.

Читайте такожPolitico: Нікому не цікаві фото з вашого телефону, окрім КитаюВ цей момент шляху назад вже немає. Ланцюгова реакція, яка лежить в основі ядерного вибуху, буде повторюватися достатню кількість разів, поки не знищить все живе на Землі. Спочатку буде жахливо яскравий спалах світла, потім потужний звук вибуху, а потім - тривалий гуркіт. Існує слово, яке означає масштаб руйнування від роботи Машини судного дня - мегадес (термін, який використовували аналітики RAND в часи Холодної війни, означає один мільйон людських смертей від ядерного вибуху, - ред.).

Але мегадес - не єдине, що робить Машину судного дня такою страшною. Реальний жах криється в її автономності, ідеї, що вона запрограмована виявити низку умов у довкіллі, а потім діяти без будь-якого людського втручання.

"Немає жодного шансу для людського втручання, контролю чи фінального ухвалення рішення", - писав військовий стратег Герман Хан у своїй книзі "Термоядерна війна" в 1960-х роках, в якій і була викладена гіпотеза Машини судного дня. Концепція полягала в тому, щоб зробити ядерну війну такою, в якій неможливо перемогти. А отже вона стала немислимою.

Хан дійшов висновку, що автоматизація вимирання всього живого на Землі була б аморальною. Навіть нескінченно малий ризик виникнення помилки вже надто великий, щоб виправдати існування Машини судного дня.

"І навіть якщо відмовитись від комп'ютера і зробити Машину судного дня надійно підконтрольною людям, які ухвалюють рішення, вона все одно буде не достатньо контрольованою", - писав Хан. Жодна машина не повинна бути настільки могутньою, так само як і жодна людина.

СРСР насправді збудував власну версію Машини судного дня в часи Холодної війни. Її називали "мертвою рукою". Але якимсь чарівним чином людство знайшло спосіб жити з бомбою. Тепер потрібно навчитися вижити з соціальними мережами. Люди схильні скаржитися на Facebook так, наче це щось, що тільки нещодавно утворилося. Існує уявлення, що колись соціальні мережі були корисними або, принаймні, мали шанс стати чимсь хорошим, якби люди вчасно потягнули за кілька важелів: трохи модерації й перевірки фактів тут, трошки регуляції там. Можливо варто було б подати у свій час антимонопольний позов.

Читайте такожВ ЄС оштрафували Twitter на 450 тисяч євро через витік данихАле такі погляди надто райдужні й короткозорі. Сучасні соціальні мережі, а Facebook зокрема, були збудовані для заохочення речей, які роблять їх такими шкідливими. Це лежить в основі їхньої архітектури. Останніми роками помилки Facebook накопичились, а його репутація значно погіршилася. Завдяки цьому стало очевидно, що халатність - це лише частина проблеми. 

"Ніхто, навіть Марк Цукерберг, не здатен контролювати створений ним продукт. Facebook - це не ЗМІ. Це Машина судного дня", - йдеться в статті.

Соціальна мережа робить саме те, для чого вона була збудована. Facebook не існує для того, щоб шукати правду й повідомляти про неї. Він не переслідує мету покращити громадське здоров'я чи притягувати владу до відповідальності. Він не представляє інтереси своїх користувачів, хоча цей феномен може час від часу виникати як побічна дія його існування. Початковою метою компанії було "дати людям силу ділитися й робити світ більш відкритим і об'єднаним". Натомість соціальна мережа взяла концепцію "спільноти" і позбавила її будь-якого морального значення. Наприклад, підйом руху прихильників теорій змови QAnon - це один з логічних результатів існування соціальних мереж.

Тому що Facebook разом з Google і YouTube ідеально підходять для посилення й поширення дезінформації з швидкістю світла й серед глобальної аудиторії. Facebook - агент державної пропаганди, цілеспрямованого цькування, вербування терористів, емоційних маніпуляцій і геноциду. Це історична для світу зброя, яка лежить не під землею, а в технопарку в стилі Диснейленду в Менло Парк, штат Каліфорнія.

Читайте такожWashington Post: Вакцини від COVID-19 потопають у брехні, як це зупинити?Соціальні мережі-гіганти: Facebook і підпорядкований йому Instagram, YouTube і меншою мірою Twitter - добилися успіху, будучи догматично нейтральними до моральний цінностей у своєму переслідуванні того, що The Atlantic називає "мегамасштабом". В якийсь момент на своєму шляху Facebook вирішив, що йому потрібна не просто дуже велика база користувачів, а гігантська й безпрецедентна в своїх розмірах. Це рішення скерувало Facebook на шлях, на якому він лише своїм існуванням може нашкодити суспільству.

Видання визнає, що порівняння соціальної мережі з Машиною судного дня має свої очевидні обмеження. Зрештою, популярні сайти не можуть перетворити на руїни ціле місто за мить, як ядерна бомба. До того ж, Машина судного дня повинна була б бути умисне створеним пристроєм для організації кінця світу. А Facebook з'явився, тому що не дуже тверезому студенту Гарвардського університету одного вечора стало нудно. Але в обох випадках на кін поставлено питання життя і смерті.

Мегамасштаб майже така ж загроза для існування, як і мегадес. Жодна машина не повинна бути здатною контролювати долю населення планети. І Машина судного дня, і Facebook роблять саме це.

Цикл шкоди від актуальної бізнес-моделі соціальної мережі, яка полягає в збереженні масштабності за будь-яку ціну, не важко помітити. Масштаб і залучення цінні для Facebook, тому що вони цінні для рекламодавців. Тому з'явилися різні кнопки реакції, які заохочують користувачів частіше й легше реагувати на все. А це, в свою чергу, заохотило користувачів ділитися ідеями, які спровокують сильнішу реакцію. Кожен раз, коли ви натискаєте на "лайк", алгоритм фіксує це і чіткіше визначає ваш портрет.

Гіпер-таргетинг користувачів, який став можливий завдяки величезним об'ємам їхніх особистих даних, створює ідеальне середовище для маніпуляцій. І цим користуються рекламодавці, політичні кампанії, емісари дезінформації і, звісно ж, сам Facebook. Останній тримає під контролем, що ви побачите, а що ні на сайті.

Читайте такожРосія поширює брехню про оксфордську вакцину від COVID-19, щоб продати свою – БританіяFacebook розгорнув цілу армію з 15 тисяч модераторів, яким платять за відстеження жахливих речей: групових зґвалтувань, вбивств й інших зображень насильства, які швидко видаляють з платформи. Facebook наполягав, що він нейтральна з точки зору цінностей платформа, яка не обмежує користувачів у їхньому виборі матеріалів для публікації. Але модерація - це той важіль, за який соціальна мережа смикає знову і знову. Але не існує такої кількості модераторів зі знанням усіх можливих мов, щоб зупинити той біблійних масштабів "потоп з лайна", яким Facebook заливає світ. Тому що в 10 випадках з 10 алгоритм швидкий і могутніший, ніж будь-яка людина. У мегамасштабі цей алгоритмічно замкнене персоналізоване інформаційне середовище надзвичайно важко модерувати так, щоб це мало якийсь вплив. Тому воно надзвичайно небезпечне.

Ці загрози не теоретичні і вони посилюються магамасштабом, який робить платформу ідеальним місцем для проведення експериментів над людьми. Власне, Facebook провів експеримент з "соціального зараження", не повідомивши своїх користувачів, що вони стали його учасниками. Він діяв як цифрова колоніальна сила, намагаючись стати фактичним і єдиним досвідом взаємодії з інтернетом для людей в усьому світі. Facebook хвалився своєю здатністю впливати на результати виборів. Незаконні воєнізовані групи використали Facebook для організації. Уряди користуються ним, щоб дурити своїх громадян і змінювати хід виборів. Військові досліджували придатність Facebook для організації геноциду.

Навіть після того, як розвідка США визнала Facebook головним полем битви в інформаційній війні й інструментом іноземного втручання у вибори 2016 року, соціальна мережа не змогла зупинити поширення екстремізму, мови ненависті, пропаганди, дезінформації й теорій змови на своїй платформі. Неонацисти лишаються активними на Facebook, купуючи рекламу навіть після того, як їх формально заблокували. І лише в жовтні 2020 року компанія оголосила, що буде видаляти всі групи й сторінки, присвячені теоріям змови QAnon, а також заперечення Голокосту. Але попри все це, Facebook регулярно розсилає своїм користувачам електронні листи, рекомендуючи найновіші сторінки QAnon.

У перші дні після виборів президента США в 2020 році Цукерберг дозволив змінити алгоритм Facebook, щоб сторінки ЗМІ, які поширюють правдиву інформацію, отримали пріоритет. Так вони частіше з'являлися в стрічці користувачів. А гіперполітизовані сторінки, такі як Breitbart News і Occupy Democrats, повинні були бути поховані. Це, на думку New York Times, доводить, що Facebook може, якщо захоче, перекрити кран потоку дезінформації. А також це доводить, що у владі соціальної мережі впливати на те, що мільярди людей побачать.

Читайте такожAssociated Press: У США вистежили агентів ГРУ, які поширюють брехню про коронавірусРішення перекрити кран дезінформації було дуже нетиповим для Facebook. Це все одно що якби Машина судного дня, виявивши ознаки загрози в середовищі, вирішила не запускати свій алгоритм з автоматичного знищення світу. Цього разу людське втручання зменшило шкоду. Єдина проблема в тому, що скорочення контенту, який у Facebook називають "поганим для світу", також скоротило активність людей на сайті. У своєму експерименті з людським втручанням, Facebook відкалібрував кран так, щоб на сайті лишалася достатня кількість шкідливої інформації, яка б змушувала людей повертатися за "добавкою".

Мегамасштаб соціальної мережі наділяє Цукерберга безпрецедентним впливом на глобальне населення. Якщо він не найвпливовіша людина на планеті, тоді він дуже близький до цього.

"Це божевілля, що хтось має таку владу над висловлюванням і мовчанням, не кажучи вже про те, щоб бути власником алгоритмів, які визначають фактично все в інтернеті. Речі, якими він керує, настільки заразні й так сильно впливають на переконання людей, що здатні вплинути на те, як вони вчинять зі своєю ядерною зброєю чи доларами", - сказав колишній чиновник Білого дому Джошуа Гелцер, який займався питаннями боротьби з тероризмом.

Якщо хоч хтось серйозно хоче скоротити шкоду від соціальних мереж для людства, йому варто подумати над тим, щоб видалити свої сторінки в Facebook, Instagram і Twitter, а також в будь-яких інших викривлених алгоритмами інформаційних середовищах, які маніпулюють людьми. Але варто прийняти більш широкий погляд на те, як виправити зламаність соціальних мереж. Для цього доведеться кинути виклик логіці сучасних платформ. А в першу чергу потрібно розібратися з самою концепцією мегамасштабу як способу збору людей.

Читайте такожThe Guardian: MI5 і MI6 провалили боротьбу з РосієюЯкщо мегамасштаб - це те, що дає Facebook нечувану владу і робить його небезпечним, тоді доведеться піти на дії проти мережі в сучасному її вигляді, щоб змінити її. Поточна логіка соцмережі говорить, що її платформа безкоштовна в обмін на дані користувача. Що великі мережі обов'язково повинні бути централізованими й глобальними. І що модератори визначають правила. Все це повинно перестати бути правдою. Потрібні люди, які демонтують ці твердження, створивши альтернативу. А також потрібна достатня кількість людей, які б дбали про ці альтернативи, щоб розбити чари венчурного капіталу й уваги мас, які підживлюють мегамасштаб, створюючи фаталістичність мережі в сучасному вигляді.

Інтернет - це все ще добро для людства, але всупереч соціальним мережам, а не завдяки їм. Потрібно також знайти способи виправити аспекти наших суспільств і культури, яким соціальні мережі завдали великої шкоди. Для цього знадобляться інтелектуальна незалежність, ввічливі дебати і такий же бунтівний дух, який дав початок епосі Просвітництва багато століть тому.

Вас також можуть зацікавити новини:

Читайте новини світу і переклади зарубіжної преси на каналі УНІАН ІноЗМІ