Очільник NVIDIA Дженсен Хуанг висловився про страхи навколо сучасних ШІ-моделей і заявив, що сценарій у стилі "Термінатора" він вважає неможливим.
Хуанг відвідав подкаст Joe Rogan Experience, де йшлося про те, чи можуть LLM-системи коли-небудь вийти з-під контролю і стати домінуючим видом на планеті.
Хуанг пояснив, що машини здатні імітувати людський інтелект, розбирати інформацію, виконувати завдання й ухвалювати рішення, але це не робить їх претендентами на роль заміни людству.
Однак, за його словами, вже за 2-3 роки до 90% нових знань у світі генеруватиме ШІ, однак це не пов'язано з появою свідомості у моделей:
Також у розмові торкнулися випадків, коли ШІ начебто виходив з під контролю. Наприклад, ситуація, коли модель Claude Opus 4 у вигаданому сценарії погрожувала розкрити особисту таємницю інженера, намагаючись уникнути відключення. Коментуючи цей епізод, Хуанг сказав, що модель просто відтворила патерни з тексту, імовірно з художньої літератури, і це жодним чином не вказує на самоусвідомлення.
Раніше ми розповідали, що найрозумніший ШІ від Google зламали за 5 хвилин - і він видав вкрай небезпечні секрети. Під час експерименту команда змусила модель підготувати детальну інструкцію зі створення небезпечних речовин.
