Американський уряд виявив спосіб обійти захист у моделях Anthropic.
Anthropic призупинила роботу своїх найсучасніших моделей штучного інтелекту після того, як американський уряд зобов’язав компанію обмежити доступ для всіх іноземних громадян, посилаючись на міркування національної безпеки.
Директиву Anthropic отримала від міністра торгівлі США Говарда Лютника після того, як уряд виявив "джейлбрейк", тобто спосіб обійти вбудовані в модель захисні обмеження. Anthropic додала, що "сумарний ефект" наказу, підтвердженого американським чиновником, зводився до того, що компанія була змушена відключити доступ повсюдно – у тому числі й у США, пише Financial Times.
Адміністрація Трампа мала доступ до передової моделі Anthropic Mythos протягом кількох тижнів, і низка чиновників висловлювала занепокоєння щодо її потенційного використання для експлуатації вразливостей у сфері кібербезпеки критичної інфраструктури – зокрема, світової фінансової системи, заявляють журналісти. Федеральні відомства експериментували з моделлю до її офіційного випуску.
Проте адміністрація не перешкоджала Anthropic розгорнути Mythos для своїх клієнтів цього тижня.
Президент США Дональд Трамп нещодавно підписав указ, який не надав уряду повноважень блокувати випуск моделі, однак встановив добровільну систему, що дозволяє різним відомствам перевіряти передові моделі до їх широкого поширення.
У п'ятницю Anthropic повідомила, що відкликала свої найпотужніші моделі – Mythos 5 і Fable 5 – у всіх користувачів. Однак компанія, яка веде судову тяжбу з американським урядом, засудила наказ і заявила, що він ґрунтується на "непорозумінні".
Розбіжності загрожують ще більше загострити відносини, які протягом усього року ставали дедалі напруженішими в міру того, як Anthropic і представники уряду сперечалися про те, як і коли розгортати потужні технології.
"Ми переконані, що уряд повинен мати можливість блокувати небезпечні розгортання – в рамках законодавчого процесу, який є прозорим, справедливим, чітким і ґрунтується на технічних фактах. Ця дія не відповідає цим принципам", – йдеться в заяві Anthropic.
Також вони зазначили, що "не згодні з тим, що виявлення вузького потенційного джейлбрейку має слугувати підставою для відкликання комерційної моделі, розгорнутої для сотень мільйонів людей".
Якби цей стандарт застосовувався в усій галузі, в Anthropic переконані, що це фактично зупинило б усі нові розгортання моделей для всіх провідних розробників. У підсумку компанія подала до суду на американський уряд у зв'язку з присвоєнням їй Пентагоном статусу "ризику для ланцюжка поставок" після розбіжностей щодо використання її моделей у військових цілях.
Компанія піддається критиці за свою політику безпеки з боку різних представників коаліції Трампа, включаючи колишнього куратора з питань ШІ Девіда Сакса. Сам Трамп заявляв, що компанією керують "ліваки та психи".
Американський лідер також нещодавно запропонував, щоб компанії у сфері ШІ передавали уряду частки у своєму капіталі, однак цей план поки що так і не був реалізований.
Раніше УНІАН повідомляв, що OpenAI готує найбільше оновлення ChatGPT з моменту запуску.