ШІ може очистити інтернет від брехні, якщо політики йому дозволять / Фото: megael.com.pl

Хто ж знав, що ситуація може стати настільки важкою? За останні два тижні Facebook виявив нові фальшиві сторінки, якими можуть користуватися агенти Росії.

Президент США звинуватив Twitter в умисному скороченні видимості консервативних політиків. А Apple, Facebook, YouTube і Pinterest майже одночасно видалили облікові записи правого радикала Алекса Джонса і його медіа-імперії Infowars. Це викликало дискусії на тему, чи можуть технологічні гіганти встановлювати межі для свободи слова.

Так чи інакше, всі ці події стосуються рішень, зроблених людьми, але виконаних алгоритмами, пише Wall Street Journal.

Відео дня

Читайте такожThe Economist: Політиків можна замінити більш ефективними роботами, але чи варто?

На сьогодні існує багато інструментів штучного інтелекту, за допомогою яких можна виявити дезінформацію, ботів, фальшиві облікові записи, злоякісні кампанії впливу, мета яких спотворити те, що ми чуємо і бачимо. Проблема лише в тому, що досі немає консенсусу щодо того, як їх використовувати.

Технологічні гіганти вже говорять про те, як деякі з цих інструментів варто застосовувати. Facebook використовує штучний інтелект для виявлення злоякісного контенту: від мови ненависті до риторики, яка може свідчити про ризик скоєння самогубства. Twitter застосовує цю технологію для виявлення тих, хто схильний домагатися інших. А YouTube за допомогою штучного інтелекту бореться з розповсюдженням відео терористів на своїй платформі.

Попри всі ці зусилля, дослідники і політики думають більше над тим, як підвищити відповідальність людей, які керують цими компаніями. В кращому випадку, технологічні гіганти підуть на співпрацю у розробці прозорих інструментів. Видання зауважує, що проблеми поширення мови ненависті, закликів до насильства, державної пропаганди і дезінформації насправді пов’язані між собою. Тому для їх вирішення можна використовувати одні і ті ж інструменти.

Читайте такожAtlantic Council: Міжнародні ЗМІ повторюють пропаганду Кремля про Україну навіть після 4 років війни

Взяти для прикладу зв’язок між сторінками терористів і кампаніями з поширення дезінформації.  І одне, і інше можна виявити одними і тими ж методами, запевняє експерт Державного університету Аризони Хамірдреза Алварі. Зазвичай спроби виявити сторінки зловісних акторів у соціальних мережах опираються на лексичні фільтри. Але терористи і пропагандисти навчилися їх дурити. Алварі розробив алгоритм, який шукає певні сторінки, контент з яких поширюється на платформі нетипово швидко. Оскільки це і є метою як пропагандистів, так і терористів, його метод може допомогти очистити соцмережі від їхнього контенту. Але людям все одно потрібно приймати остаточне рішення, щоб уникнути помилок.

Алгоритми можуть також виявляти і прикривати так звані «палати відлуння» в соціальних мережах, в які люди вступають, щоб спілкуватися лише з людьми, які розділяють їхні політичні погляди і манеру поведінки. Таким чином, це ізолює користувачів від альтернативних аргументів і створює інформаційну бульбашку, в якій вони живуть.

Читайте такожПапа Римський назвав фейкові новини "серйозним гріхом"

Професор комп’ютерних наук Філіппо Менендез разом з колегами встановили, що пошукові системи зазвичай відсилають користувачів до різних джерел інформації з різними аргументами і точками зору. В той час, як Facebook сприяє посиленню однобоких упереджень користувачів. Twitter, як виявилося, ще гірший у цьому. Деякі компанії вже почали налаштовувати свої алгоритми для вирішення проблеми. Також вчені працюють над системами на основі штучного інтелекту, здатні ефективно виявляти шкідливі плітки.

Однак, наявні інструменти боротьби зі шкідливим контентом зіштовхнулися з проблемами. Їхнє застосування підняло питання про те, де проходить лінія між боротьбою з дезінформацією і цензурою. Це ключове питання для всіх найбільших технологічних компаній.

Читайте такожШтучний інтелект перевершив людину в діагностиці раку

Засновник і виконавчий директор Facebook Марк Цукерберг нещодавно заявив, що він не хотів би цензурувати навіть заперечення Голокосту, тому що його компанія не відповідальна за визначення правди. Однак, соціальна мережа, так само як і інші, все ж видаляє контент і обмежує доступ до нього кожен день. І їхні рішення часом здаються загрозливими. Рішення Тіма Кука з Apple прикрити Infowars, вочевидь, підштовхнуло інші фірми зробити те ж саме. Джонс і його медіа-імперія розповсюджували різноманітні теорії змови про те, що бійня в початковій школі Сенді Хука в 2012 році насправді вигадка, а лідери Демократичної партії нібито керують «світовою мережею педофілів». Однак, рішення техфірм зупинити розповсюдження такої інформації викликало обурення і розмови про цензуру.

За словами виконавчого директора компанії New Knowledge Джона Моргана, вирішенням проблеми може бути створення незалежної організації, яка буде займатися моніторингом інформації і відсіюванням пропаганди і фальшивок. Щось подібне вже існує для боротьби проти діяльності терористів в інтернеті. Організація називається «Глобальний інтернет-форум боротьби з тероризмом». Однак, міністр внутрішніх справ США Крістьєн Нельсен і  американські технологічні компанії чомусь не хочуть розширювати її завдання, включивши до них боротьбу з дезінформацією. Однак, європейські члени організації зацікавлені в цьому.