Prima pagină » Știrile zilei » Foşti angajaţi la Chat GPT şi DeepMind: AI-ul ar putea duce la „dispariţia umană” / Este nevoie de reglementare

Foşti angajaţi la Chat GPT şi DeepMind: AI-ul ar putea duce la „dispariţia umană” / Este nevoie de reglementare

Un grup de actuali şi foşti angajaţi ai unor companii de inteligenţă artificială (AI), inclusiv OpenAI, susţinută de Microsoft şi DeepMind al Google şi-au exprimat marţi îngrijorarea cu privire la riscurile pe care le prezintă tehnologia emergentă.
Foşti angajaţi la Chat GPT şi DeepMind: AI-ul ar putea duce la „dispariţia umană” / Este nevoie de reglementare
Gabriel Negreanu
05 iun. 2024, 11:27, Știrile zilei
O scrisoare deschisă a unui grup de 11 actuali şi foşti angajaţi ai OpenAI şi un actual şi un alt fost angajat al Google DeepMind a declarat că motivele financiare ale companiilor de inteligenţă artificială împiedică o supraveghere eficientă, relatează Reuters.
 
„Nu credem că structurile personalizate de guvernanţă corporativă sunt suficiente pentru a schimba această situaţie”, se precizează în scrisoare.
 
Aceasta avertizează, de asemenea, cu privire la riscurile generate de AI-ul nereglementat, de la răspândirea dezinformării la pierderea sistemelor independente de AI şi la adâncirea inegalităţilor existente, care ar putea duce la „dispariţia umană”.
 
Cercetătorii au găsit exemple de generatoare de imagini de la companii precum OpenAI şi Microsoft care produc fotografii cu dezinformări legate de vot, în ciuda politicilor împotriva unui astfel de conţinut.
 
Companiile de inteligenţă artificială au „obligaţii slabe” de a împărtăşi informaţii cu guvernele cu privire la capacităţile şi limitările sistemelor lor, se arată în scrisoare, adăugând că nu se poate conta pe faptul că aceste firme vor împărtăşi aceste informaţii în mod voluntar.
 
Scrisoarea deschisă este cea mai recentă care atrage atenţia asupra problemelor de siguranţă în legătură cu tehnologia generativă, care poate produce rapid şi ieftin texte, imagini şi înregistrări audio asemănătoare celor umane.
 
Grupul a îndemnat firmele de AI să faciliteze un proces pentru ca angajaţii actuali şi foştii angajaţi să îşi exprime îngrijorările legate de riscuri şi să nu aplice acorduri de confidenţialitate care interzic criticile.