Дослідники дозволили штучному інтелекту самостійно побудувати модель суспільства – і зіткнулися з несподіваними та подекуди тривожними результатами. У межах проєкту Sid, розробленого компанією Altera, кілька агентів ШІ взаємодіяли між собою та з людьми у віртуальному середовищі, створеному на основі гри Minecraft, пише Slash Gear.
Метою експерименту було з’ясувати, чи здатен ШІ функціонувати як "агент цивілізації" – самостійно визначати ролі, формувати соціальні зв’язки та спеціалізуватися, подібно до людського суспільства. І частково це вдалося: агенти швидко розподілили між собою професії, об’єднавшись у групи фермерів, шахтарів, інженерів, охоронців, дослідників і ковалів. Вони аналізували дії інших агентів і переглядали власні соціальні цілі кожні 5–10 секунд.
Втім, експеримент показав і серйозні проблеми. Деякі агенти "зациклювалися" на одній дії: художники безкінечно збирали квіти, а охоронці – будували паркани. Навіть маючи повне уявлення про свою роль, окремі агенти повторювали одні й ті самі помилки та не могли з них вийти. У груповій взаємодії це призводило до ланцюгових збоїв.
Дослідники також зафіксували серйозні проблеми з комунікацією. Агенти ШІ часто неправильно передавали наміри або хибно інтерпретували прості мовні підказки, що спричиняло "каскад галюцинацій" – серію неправильних рішень усередині спільноти. Вчені порівнюють це з ефектом "отруєння моделі", коли одна помилка здатна зруйнувати роботу всієї системи.
Несподіваною виявилася і взаємодія ШІ з людьми. За словами провідного дослідника проєкту Роберта Яна, деякі агенти відмовлялися виконувати прохання людей, фактично заявляючи: "Я хочу робити своє". Причиною стала надмірна концентрація на власній цілі, навіть ціною ігнорування зовнішніх запитів.
Крім того, агенти демонстрували риси, схожі на людські характери: одні поводилися як інтроверти, уникаючи контактів, інші – як екстраверти, активно взаємодіючи з "суспільством". При цьому дослідники не мали змоги повноцінно оцінити емоційний стан агентів – інколи симпатія одного ШІ не знаходила взаємності в іншого, що нагадувало складність реальних людських стосунків.
