Дослідники компанії OpenAI, яка створила чат-бота ChatGPT, попередили керівництво про відкриття "потужного штучного інтелекту, який може загрожувати людству". Це сталося незадовго до того, як Сем Альтман був звільнений з посади генерального директора.
Про це повідомля Reuters з посиланням на джерела. Модель під кодовим ім'ям Q* поки вміє вирішувати нескладні математичні завдання, проте це може стати ключем до універсального ШІ, здатному досягти потенціалу людського мозку в широкому спектрі завдань.
Дослідники вважають, що математика – це передовий рубіж розвитку генеративного ШІ. Сьогоднішнім генеративним нейромоделям добре вдається створювати і перекладати текст, статистично передбачаючи наступне слово. Але освоєння математики "означає, що ШІ буде мати більш широкі можливості міркування, що нагадує людський інтелект", пише Reuters.
Дослідники OpenAI не уточнюють, які саме загрози несе Q*. Серед вчених вже давно ведуться дискусії про небезпеку, яку представляють високоінтелектуальні машини: наприклад, якщо вони вирішать, що знищення людства відповідає їхнім інтересам.
За словами джерела видання Reuters, деякі співробітники серйозно стурбовані тим, що у OpenAI немає належних заходів безпеки для контрольованого розвитку і комерціалізації подібних моделей штучного інтелекту.
У березні цього року, слідом за переходом ChatGPT до мовної моделі GPT-4, глава OpenAI Сем Альтман зізнався, що він "побоюється" свого творіння і що воно несе реальну небезпеку, опинившись "не в тих руках". Очікується, що модель GPT-5, яка вийде до кінця року, досягне раніше небаченого рівня ШІ.
Сем Альтман повернеться на посаду гендиректора OpenAI
17 листопада рада директорів OpenAI оголосила про звільнення співзасновника і головного розробника ChatGPT Сема Альтмана, пославшись на те, що він "був з ними не завжди відвертий". Можливо, відкриття "потужного ШІ" стало одним із приводів для звільнення Альтмана.
20 листопада стало відомо, що Альтман та інші співробітники OpenAI перейшли в Microsoft, де займуться розробкою "передових досліджень в області штучного інтелекту".
Через кілька днів, після загрозу більшості співробітників OpenAI звільнитися, з Альтманом вдалось "досягти принципової угоди" про його повернення на пост гендиректора.
