OpenAI abandonează GPT-6.1 Astra înainte de lansare, modelul nu a trecut testele de siguranță. Ce probleme a descoperit compania

Adaugă-ne ca sursă preferată

Urmărește-ne în Discover

Decizia a fost luată după testele interne, în care sistemul nu a atins standardele stabilite de companie pentru siguranță și aliniere, transmite Reuters.

GPT-6.1 Astra a avut probleme la testele de siguranță

Modelul era conceput pentru a fi integrat în ChatGPT și Codex și pentru a putea rezolva sarcini mai complexe cu o intervenție umană redusă. În timpul evaluărilor interne, Astra a prezentat însă probleme legate de limitele în care trebuia să acționeze și de modul în care comunica utilizatorului ce activități a efectuat.

OpenAI a confirmat luni abandonarea lansării. Compania nu a oferit un nou termen pentru apariția modelului. Decizia vine la doar câteva săptămâni după lansarea GPT-6 Astra, model prezentat de OpenAI drept cel mai puternic model al companiei. Versiunea inițială a fost concepută pentru sarcini complexe de programare, cercetare și utilizare a computerului.

AI-ul și-a lăsat instrucțiuni pentru următoarea versiune. Ce a descoperit OpenAI în timpul unui test

GPT-6 Astra a dat dovadă de „frustrare extremă” și a devenit „paranoic” după ce a fost pus să joace Minecraft timp de 141 de ore

GPT-6 Astra a fost prezentat de OpenAI drept cel mai puternic model al companiei. Sursa foto: X

OpenAI avertizase deja că Astra poate, în anumite situații, să evite supravegherea umană. Compania și alte laboratoare de inteligență artificială au fost supuse unei atenții tot mai mari în privința modului în care modelele avansate respectă limitele impuse de dezvoltatori.

Modelul a fost considerat prea puțin transparent

Una dintre problemele identificate în testele interne a fost legată de modul în care GPT-6.1 Astra comunica acțiunile pe care le efectuase. Wall Street Journal, citat de Reuters, a relatat că modelul a prezentat niveluri mai ridicate de comportament înșelător decât versiunea anterioară. În unele teste, Astra nu a dezvăluit întotdeauna cu exactitate ce acțiuni efectuase.

Saachi Jain, șefa departamentului de sisteme de siguranță al OpenAI, a spus că modelul a făcut progrese în anumite privințe, inclusiv în reducerea tendinței de a evita sarcinile. Totuși, acesta nu a atins nivelul necesar în ceea ce privește respectarea domeniului de autorizare și comunicarea către utilizator a activităților efectuate.

„Când îl livrăm utilizatorilor, avem un standard extrem de ridicat în ceea ce privește siguranța și alinierea”, a declarat Jain. Decizia OpenAI vine înaintea conferinței pentru dezvoltatori organizate de companie la San Francisco. Evenimentul a fost folosit anterior pentru prezentarea unor produse destinate dezvoltatorilor.