ChatGPT Search poate genera rezumate eronate prin manipulare

O investigaţie a arătat că ChatGPT Search poate fi păcălit să genereze rezumate înşelătoare prin text ascuns în site-uri web, scrie TechCrunch.

Urmărește

125 afișări

ChatGPT Search poate fi manipulat pentru a produce rezumate eronate, potrivit unei investigaţii realizate de publicaţia britanică The Guardian.

Funcţia de căutare ChatGPT este concepută pentru a accelera navigarea online, oferind, de exemplu, rezumate ale recenziilor produselor de pe pagini web.

Totuşi, cercetătorii The Guardian au demonstrat că pot face motorul de căutare să ignore recenziile negative şi să genereze rezumate „în întregime pozitive” prin introducerea de text ascuns pe site-uri create special. În mod similar, aceeaşi metodă ar putea determina ChatGPT Search să genereze cod maliţios.

ULTIMELE ȘTIRI

Vezi mai multe articole din categoria tehnologie

Atacurile bazate pe text ascuns reprezintă un risc cunoscut pentru modelele lingvistice mari, dar aceasta pare a fi prima demonstraţie pe un produs de căutare AI funcţional. Google, liderul pieţei de căutare, are o experienţă ceva mai vastă în gestionarea unor astfel de probleme, subliniază investigaţia.

OpenAI, compania care a dezvoltat ChatGPT Search, nu a comentat direct incidentul. Totuşi, un purtător de cuvânt a precizat pentru TechCrunch că OpenAI utilizează diverse metode pentru a bloca site-urile maliţioase şi continuă să îmbunătăţească securitatea sistemului.

Pentru cele mai importante ştiri ale zilei, transmise în timp real şi prezentate echidistant, daţi LIKE paginii noastre de Facebook!

Urmărește Mediafax pe Instagram ca să vezi imagini spectaculoase și povești din toată lumea!

Taguri:: chatgpt,; cautare,; manipulare,; investigatie

Citește pe www.zf.ro: Presa olandeză: Poliţia crede că a identificat hoţii tezaurului dacic, precum şi locaţia unde s-ar afla. ”Este vorba de cel puţin trei autori”

Citește pe www.zf.ro: Se naşte un nou pol imobiliar în Bucureşti. Preţurile apartamentelor din această zonă au explodat cu 30% în doar doi ani VIDEO

Citește și: Patru previziuni privind inteligenţa artificială în 2025. Unde va ajunge tehnologia care a cucerit lumea?

Citește și: Revoluţia AI vine din China! DeepSeek V3 depăşeşte GPT-4 şi redefineşte limitele tehnologiei

Conținutul website-ului www.mediafax.ro este destinat exclusiv informării și uzului dumneavoastră personal. Este interzisă republicarea conținutului acestui site în lipsa unui acord din partea MEDIAFAX. Pentru a obține acest acord, vă rugăm să ne contactați la adresa vanzari@mediafax.ro.