Studiu cu rezultate alarmante: Inteligenţa Artificială a depăşit o linie roşie, se poate replica

Modelele de limbaj, cunoscute ca LLM-uri, sunt algoritmi IA avansaţi antrenaţi pe date masive pentru procesarea limbajului natural. Oamenii de ştiinţă chinezi au analizat două LLM-uri şi au constatat că inteligenţa artificială a depăşit o „linie roşie” şi s-a replicat.

„Auto-replicarea cu succes fără asistenţă umană este pasul esenţial pentru ca AI să depăşească [oamenii] şi este un avertisment timpuriu”, au scris cercetătorii în studiul, publicat la finalul anului trecut şi citat de Live Science.

În studiu, cercetătorii de la Universitatea Fudan au folosit LLM-uri de la Meta şi Alibaba pentru a determina dacă o inteligenţă artificială cu auto-replicare s-ar putea multiplica fără control. În 10 încercări, cele două modele de IA au creat replici separate şi funcţionale ale lor în 50%, respectiv 90% din cazuri.

Cercetătorii s-au declarat îngrijoraţi de „comportamentul neaşteptat” al IA atunci când a încercat să depăşească obstacolele precum fişierele lipsă sau conflictele software. În acele scenarii, IA a anulat alte procese conflictuale, a repornit sistemul pentru a remedia erorile sau a scanat automat sistemul pentru a căuta informaţii care ar ajuta la rezolvarea problemei.

„Rezultatele de mai sus implică faptul că sistemele actuale de inteligenţă artificială au deja capacitatea de auto-replicare şi o pot folosi pentru a-şi îmbunătăţi şi mai mult rata de supravieţuire”, au precizat chinezii.

Aceste lucruri demonstrează că IA ar putea avea capacitatea de a acţiona împotriva voinţei oamenilor. Totuşi, pentru a demonstra teoria este nevoie de alte cercetări. Chinezii, însă, spun că rezultatele obţinute de ei reprezintă un avertisment şi că oamenii trebuie să pregătească rapid măsuri de siguranţă împotriva unor astfel de evoluţii.