З огляду на очікуваний розвиток штучного інтелекту дослідники починають розглядати не тільки питання про те, чи можуть машини мислити, а й питання про те, чи можуть вони набути свідомості та як людство зможе розпізнати цей момент, пише Indian Defencer Review.
У статті, опублікованій у журналі Cognitive Processes, інженер Маріус Бодеа з Технічного університету Клуж-Напоки пропонує систему "Оцінки свідомості". Вона призначена не для визначення свідомості, а лише для її виявлення у біологічних або штучних видів.
Бодеа пояснює, що визначення свідомості має в рівній мірі застосовуватися до людського мозку, нервової системи восьминога або розвиненого штучного інтелекту. Концепція свідомості відображає цю ідею, фокусуючись на вимірюваних характеристиках, а не на філософських інтерпретаціях.
Модель використовує логарифмічну шкалу, побудовану на основі п'яти параметрів: еквівалентного коефіцієнта інтелекту, сенсорних вхідних даних, паралелізму, метакогнітивної складності та можливостей обробки даних. Ці показники покликані забезпечити порівняльну структуру, здатну відстежувати різні рівні свідомості у різних видів та з використанням різних технологій.
Показник рівня свідомості охоплює широкий спектр станів. На найнижчому рівні знаходяться "рефлексивні" системи, аналогічні нервовій системі комах. На верхньому полюсі знаходиться теоретична категорія "Транссапієнс", що представляє надлюдський або розвинений штучний інтелект. Такий інтелект набирає показники від 1000 до 10000 балів.
При цьому, згідно з методикою, середня доросла людина набирає від 500 до 800 балів. А дитина може набрати близько 100. Ці критерії дозволяють проводити порівняння не тільки між видами, але й між стадіями розвитку.
Як повідомляє журнал Popular Mechanics, вищий бал відображає більшу автономію, адаптивність і здатність до самомоделювання. Ця концепція покликана враховувати як еволюційні, так і еволюційні зміни в часі, пропонуючи динамічне уявлення про свідомість, а не фіксоване позначення.
Поточні оцінки ШІ
Незважаючи на стрімкий прогрес у галузі штучного інтелекту, Бодеа зазначає, що сучасним системам, як і раніше, бракує ключових компонентів, пов'язаних зі свідомістю. До них належать тілесний досвід, емоційний резонанс та автономна воля.
Проте системи штучного інтелекту вже демонструють деякі протосвідомі риси, багато в чому завдяки своїм потужним можливостям обробки даних. Це може пояснити, чому взаємодія з просунутими моделями може суб'єктивно здаватися переконливою для користувачів.
ChatGPT-4 не перевищує показник усвідомленості в 100 балів, хоча й наближається до цього порогу. Бодеа припускає, що подальше вдосконалення великих мовних моделей у поєднанні з досягненнями в апаратному забезпеченні, такими як нейроморфні обчислення, може наблизити ШІ до вищих рівнів на цій шкалі.
Він припускає, що штучна свідомість може з'явитися протягом 10-15 років, хоча й визнає невизначеність таких прогнозів.
Дивацтва в поведінці GPT
Нагадаємо, що компанія OpenAI повідомила про незвичайну поведінку своїх мовних моделей серії GPT-5: у відповідях вони все частіше стали використовувати метафори з "гоблінами", "гремлінами" та іншими вигаданими істотами. З'ясувалося, що причина була в алгоритмах навчання моделей під специфічні типи "особистості". Одна з них, яка імітувала поведінку розумного "ботаніка", навчила інших покладатися на вигаданих істот.
