Mai putem avea încredere în ceea ce vedem? Latura întunecată a noii funcții AI Clean Up de la Apple

Lansată deja în Australia, Noua Zeelandă, Canada, Irlanda, Africa de Sud, Regatul Unit și Statele Unite, această funcție de inteligență artificială nu doar că elimină elementele „deranjante” dintr-o fotografie, dar le înlocuiește cu conținut generat artificial, făcând modificarea aproape imposibil de detectat pentru ochiul neexperimentat.

„Au existat întotdeauna modalități – analogice și, mai recent, digitale – de a înșela. Dar integrarea lor în software-ul existent, într-un mod gratuit și ușor de utilizat, face aceste posibilități mult mai accesibile”, avertizează T.J. Thomson în The Conversation.

Instrumentul se alătură unei serii de funcții similare oferite de giganții tech, precum Magic Editor de la Google sau editorul foto integrat al dispozitivelor Samsung.

Diferența este că acum manipularea fotografiilor nu mai necesită expertiză sau software specializat – totul se face cu un simplu gest, direct în aplicația standard a telefonului, transmite Science Alert.

Consecințele pot fi alarmante: de la ștergerea filigranelor pentru a fura proprietate intelectuală, la modificarea dovezilor în cazuri de asigurări sau chiar falsificarea chitanțelor pentru rambursări frauduloase.

„Dacă progresele tehnologice erodează încrederea noastră în fotografii și chiar în videoclipuri, trebuie să regândim ce înseamnă să avem încredere în ochii noștri”, subliniază Thomson.

Semne de îngrijorare au apărut deja la nivel instituțional – în Uniunea Europeană, implementarea funcțiilor Apple Intelligence, inclusiv Clean Up, a fost amânată din cauza „incertitudinilor de reglementare”.

În fața acestei realități în schimbare, experții recomandă noi metode de verificare: examinarea mai multor fotografii ale aceleiași scene, căutarea anomaliilor în zonele editate și verificarea contextuală a informațiilor vizuale.