Америчка компанија за вештачку интелигенцију Антропик саопштила је у петак да је онемогућила приступ својим најнапреднијим моделима вештачке интелигенције, Фејбл 5 и Митос 5, након што је примила наредбу владе да обустави приступ страним држављанима.
Компанија је навела да је привремено искључила ове моделе за све кориснике док процењује како да поступи у складу са налогом који се односи на контролу извоза. Према њиховим речима, наредба се односи и на стране држављане који су запослени у Антропику.
Влада страхује од заобилажења безбедносних механизама
Из компаније су истакли да им власти нису доставиле детаљне информације о наводном безбедносном ризику. Према објашњењу Антропика, званичници верују да су корисници можда пронашли начин да заобиђу безбедносне механизме модела и наведу их да помажу у проналажењу рањивости у софтверу.
Међутим, компанија је оспорила значај овог проблема, наводећи да је на тај начин откривен само мали број већ познатих и мање значајних софтверских пропуста.
Фејбл 5 и Митос 5 тек представљени јавности
Антропик је Фејбл 5 и Митос 5 представио раније ове недеље. Фејбл 5 је био намењен широј употреби уз додатне безбедносне мере, док је Митос 5 био доступан ограниченом броју поузданих партнера из области сајбер-безбедности, при чему су нека ограничења била уклоњена.
Компанија је саопштила да могућности модела Фејбл 5 „надмашују све моделе које смо до сада учинили широко доступним јавности“.
Већа транспарентност ограничења
У среду је Антропик најавио да ће ограничења која се односе на његове најмоћније АИ моделе учинити транспарентнијим. То подразумева обавештавање корисника када је њихов захтев ограничен, одбијен или преусмерен на други модел.
Ова одлука уследила је након критика да поједина ограничења нису била видљива корисницима.
Пре измене политике, Антропик је могао да захтеве који су се односили на сајбер-безбедност, биологију и напредни развој вештачке интелигенције неприметно преусмери са Фејбл 5 на мање способан модел Опус 4.8.
Према новим правилима, корисници ће бити обавештени када је њихов захтев означен као осетљив, док ће програмери који користе АПИ добијати објашњења у случају одбијања захтева или његовог преусмеравања на други модел.
Критике истраживача и питање националне безбедности
Овакав приступ изазвао је критике дела истраживачке заједнице, која сматра да преусмеравање захтева повезаних са развојем најнапреднијих АИ система на слабије моделе може успорити технолошки напредак у тој области.
Као одговор на критике, Антропик је пристао да безбедносне механизме и ограничења учини видљивим корисницима.
Компанија је и раније као разлог за одбијање или ограничење појединих захтева наводила питања националне безбедности, упозоравајући да би стране државе и потенцијални противници могли да искористе њену технологију за унапређење сопствених система вештачке интелигенције.
