Anthropic dezactivează cele mai noi modele de IA în urma unui ordin al SUA care limitează accesul străin

Adaugă-ne ca sursă preferată în Google

Urmărește-ne în Discover

Compania a primit directiva privind controlul exporturilor prin care i se cerea să suspende accesul la Fable 5 și Mythos 5 pentru toți cetățenii străini. Nu s-au oferit detalii concrete cu privire la motivele de securitate națională invocate, a precizat Anthropic într-un comunicat, potrivit Reuters.

Compania Anthropic înțelege că guvernul consideră că există o metodă de ocolire, sau „jailbreaking”, a unei măsuri de protecție care ar împiedica utilizarea Fable 5 în identificarea vulnerabilităților software.

Ordinul vine tocmai când o dispută anterioară între oficialii administrației Trump și Anthropic, care urmează să se listeze la bursă, dădea semne de atenuare în anumite părți ale guvernului SUA.

„Războiul IA a început deja”: Franța este alarmată de decizia SUA împotriva Anthropic

Anthropic lansează două noi modele de IA și susține că au performanțe superioare în programare și cercetare științifică

Relația Anthropic cu guvernul s-a rupt anul acesta după ce a refuzat să permită armatei SUA să utilizeze modelele sale de IA pentru supraveghere internă și sisteme de arme complet autonome.

Guvernul a răspuns prin includerea Anthropic pe o listă neagră a lanțului de aprovizionare, care urmează să intre în vigoare mai târziu în cursul anului.

Măsura marchează, de asemenea, o escaladare majoră a eforturilor SUA de a stopa capacitățile de IA ale adversarilor străini.

Timp de ani de zile, controalele la export ale SUA s-au concentrat pe cipurile și instrumentele care alimentează IA, mai degrabă decât pe restricționarea accesului străin la IA în sine.

„Nu suntem de acord”

Anthropic a transmis că guvernul i-a oferit doar „dovezi verbale ale unui potențial jailbreak limitat, neuniversal”.

„Nu suntem de acord că descoperirea unui potențial jailbreak limitat ar trebui să constituie un motiv pentru retragerea unui model comercial implementat pentru sute de milioane de oameni”, a afirmat compania.

Directiva guvernamentală și răspunsul Anthropic evidențiază tensiunea crescândă dintre dezvoltatorii de IA și autoritățile de reglementare cu privire la modul de evaluare a riscurilor generate de așa-numitele „jailbreak-uri” sau de metodele utilizate pentru a ocoli măsurile de protecție ale modelelor.

Chiar miercuri, Anthropic a solicitat o supraveghere mai strictă a IA din partea SUA, inclusiv capacitatea de a bloca modelele care prezintă riscuri inacceptabile.

Compania a afirmat însă că măsura luată de guvern vineri nu a respectat principiile unei reglementări echitabile și bazate pe fapte.

Directorul de informații al Pentagonului, Kirsten Davies, a declarat într-o postare pe X că Departamentul Apărării susține acordarea priorității securității naționale.

„Unele lucruri sunt pur și simplu mai importante decât ciclurile de venituri, clickbait-ul și evaluarea pre-IPO. America First. Întotdeauna”, a spus Davies.

Anthropic a depus în mod confidențial o cerere de listare la bursă în SUA luna trecută, devansând rivalul OpenAI în cursa pentru a ajunge pe piețele publice.