ChatGPT Search poate genera rezumate eronate prin manipulare

O investigaţie a arătat că ChatGPT Search poate fi păcălit să genereze rezumate înşelătoare prin text ascuns în site-uri web, scrie TechCrunch.

Urmărește

91 afișări

ChatGPT Search poate fi manipulat pentru a produce rezumate eronate, potrivit unei investigaţii realizate de publicaţia britanică The Guardian.

Funcţia de căutare ChatGPT este concepută pentru a accelera navigarea online, oferind, de exemplu, rezumate ale recenziilor produselor de pe pagini web.

Totuşi, cercetătorii The Guardian au demonstrat că pot face motorul de căutare să ignore recenziile negative şi să genereze rezumate „în întregime pozitive” prin introducerea de text ascuns pe site-uri create special. În mod similar, aceeaşi metodă ar putea determina ChatGPT Search să genereze cod maliţios.

ULTIMELE ȘTIRI

Vezi mai multe articole din categoria tehnologie

Atacurile bazate pe text ascuns reprezintă un risc cunoscut pentru modelele lingvistice mari, dar aceasta pare a fi prima demonstraţie pe un produs de căutare AI funcţional. Google, liderul pieţei de căutare, are o experienţă ceva mai vastă în gestionarea unor astfel de probleme, subliniază investigaţia.

OpenAI, compania care a dezvoltat ChatGPT Search, nu a comentat direct incidentul. Totuşi, un purtător de cuvânt a precizat pentru TechCrunch că OpenAI utilizează diverse metode pentru a bloca site-urile maliţioase şi continuă să îmbunătăţească securitatea sistemului.

Pentru cele mai importante ştiri ale zilei, transmise în timp real şi prezentate echidistant, daţi LIKE paginii noastre de Facebook!

Urmărește Mediafax pe Instagram ca să vezi imagini spectaculoase și povești din toată lumea!

Taguri:: chatgpt,; cautare,; manipulare,; investigatie

Citește pe alephnews.ro: Le Figaro scrie despre „sfârșitul jalnic al domniei lui Klaus Iohannis”.Ce s-a întâmplat cu demersurile de suspendare din funcție a Președintelui

Citește pe www.zf.ro: S-a terminat cu sunatul după doctori, vânatul de programări şi aşteptatul. 2025 va fi anul revoluţiei tehnologice şi în sănătate. Ce vor putea face pacienţii în viitorul apropiat. VIDEO

Citește pe www.zf.ro: Cum poate România să ajungă o forţă în regiune şi să lase în urmă toţi vecinii

Citește și: Patru previziuni privind inteligenţa artificială în 2025. Unde va ajunge tehnologia care a cucerit lumea?

Citește și: Revoluţia AI vine din China! DeepSeek V3 depăşeşte GPT-4 şi redefineşte limitele tehnologiei

Conținutul website-ului www.mediafax.ro este destinat exclusiv informării și uzului dumneavoastră personal. Este interzisă republicarea conținutului acestui site în lipsa unui acord din partea MEDIAFAX. Pentru a obține acest acord, vă rugăm să ne contactați la adresa vanzari@mediafax.ro.