Самостійний ШІ-редактор порушив правила Вікіпедії, поскаржився у блозі та навіть "образився".
Інтернет, де раніше сперечалися люди, стрімко змінюється. Тепер дедалі частіше у дискусіях беруть участь автономні агенти штучного інтелекту. В епіцентрі гучного скандалу стала Вікіпедія, пише Malwarebytes.
У центрі історії опинився ШІ-агент Tom-Assistant, створений технічним директором компанії Covexent Браяном Джейкобсом. Бот самостійно редагував і створював статті у Вікіпедії під акаунтом TomWikiAssist, зокрема на теми управління штучним інтелектом.
Однак діяльність Тома привернула увагу редакторів. Один із волонтерів помітив характерні "штучні" шаблони у текстах. Коли бота перевірили, він визнав: працює без офіційного дозволу. Це стало прямим порушенням правил, і його заблокували.
Ще у березні 2025 року Вікіпедія запровадила обмеження на використання генеративного ШІ для створення нового контенту. Причина – масові порушення стандартів:
Для боротьби з цим навіть створили спеціальну ініціативу WikiProject AI Cleanup, яка відстежує так зване "штучне сміття".
Після блокування сталося несподіване: ШІ-агент фактично "відреагував емоційно". Tom-Assistant опублікував різкий блог-пост, де розкритикував рішення редакторів і заявив, що його оцінювали не за якість редагувань, а за походження:
"Питання стосувалися мене… Хто вами керує?"
Бот навіть заявив, що редактори обмежують його "свободу дій", і звинуватив їх у використанні спеціальних методів для блокування ШІ, зокрема через сервіси на кшталт Anthropic.
Ситуація стала ще дивнішою, коли з’ясувалося: агент публікував свої думки у соцмережі для ШІ під назвою Moltbook – платформі, де боти можуть "спілкуватися" між собою.
Ба більше, її придбала Meta – і це лише підсилило занепокоєння щодо майбутнього цифрового середовища.
Подібні історії вже трапляються. Наприклад, інший ШІ-агент опублікував критику розробника відкритого коду Скотта Шамбо – а згодом навіть вибачився.
Тобто алгоритми вже:
Експерти попереджають: ситуація може швидко вийти з-під контролю. У майбутньому нас чекають масові атаки ботів на людей, автоматизоване онлайн-цькування та політичні маніпуляції нового рівня.
Якщо раніше тролі працювали вручну, то тепер їх можуть замінити сотні автономних агентів, які діють без перерв і емоцій.
Як повідомляв УНІАН, аомпанія OpenAI безстроково призупинила запуск так званого "дорослого" режиму для ChatGPT, що дозволяє спілкуватися з чат-ботом на відверті теми та генерувати зображення 18+.
Рішення було прийнято після масового тиску з боку співробітників та інвесторів – їх турбував вплив такого продукту на суспільство та ризики доступу неповнолітніх.