У інтернеті обговорюють крупний скандал, пов'язаний з використанням ШІ, у центрі якого опинилася одна з провідних американських газет Chicago Sun-Times. Видання опублікувало на своїх сторінках список книг на літнє читання, яких не існує.
Із 15 книжок у списку лише п'ять є справжніми, які ви дійсно можете прочитати. Наприклад, "Вино з кульбаб" Рея Бредбері та "Назви мене своїм ім'ям" Андре Асімана. Усі інші твори виявилися вигадкою нейромережі, зокрема від реальних авторів.
Потішно, що одна з підробок – книга Енді Вейра "Останній алгоритм". У вигаданій анотації йдеться про програміста, який виявив, що ШІ набув свідомості і таємно впливає на світові події – іронічний синопсис, враховуючи, як саме виник цей скандал.
Як виявилося, фрілансер, який працював на партнера газети, використав генерацію зі ШІ, не перевіривши інформацію. Але як це потрапило до друку, у видання не змогли відповісти.
Експерти в галузі ШІ вважають випадок із The Chicago Sun-Times показовим прикладом небезпеки сучасних генеративних нейромереж, які можуть створювати переконливий, але неправдивий контент, який потім поширюється як правдивий. Це становить потенційну загрозу, особливо у сферах, де достовірність інформації критично важлива.
Галюцинації, або надання неправдивих, або фіктивних відповідей, є однією з постійних проблем чат-ботів ШІ. Так, наприклад, був випадок, коли американський юрист використав у суді фіктивні цитати, згенеровані ChatGPT. Пізніше з'ясувалося, що чат-бот OpenAI у своїх відповідях посилався на неіснуючі справи. Нещодавнє дослідження показало, що чат-боти частіше брешуть, якщо просити їх бути короткими,
