În era digitală, tehnologiile avansate aduc inovații remarcabile, dar și provocări semnificative. Una dintre aceste provocări este fenomenul deepfake, o tehnologie care folosește inteligența artificială pentru a crea clipuri video și audio extrem de realiste, în care fața și/sau vocea unei persoane sunt imitate cu o precizie uimitoare. Scopul acestui articol este de a vă educa despre ce sunt deepfake-urile, cum pot fi recunoscute și ce măsuri puteți lua pentru a combate răspândirea dezinformării.

Ce sunt Deepfake-urile?

Termenul "deepfake" provine din combinarea cuvintelor "deep learning" (învățare profundă) și "fake" (fals), referindu-se la clipurile generate prin algoritmi de inteligență artificială care pot schimba fețe sau imita vocea cuiva, creând astfel conținut fals, dar incredibil de realist. Inițial folosite în domeniul divertismentului, aceste tehnici sunt acum exploatate pentru a crea materiale de propagandă, hărțuire sau pentru a influența opinia publică.

Verificarea Surselor

Înainte de a crede sau distribui un clip potențial deepfake, este important să căutăm confirmarea autenticității sale prin surse de încredere. Acest lucru poate include verificarea site-urilor de știri reputabile, consultarea bazei de date a agențiilor de fact-checking sau chiar contactarea directă a persoanelor sau organizațiilor implicate. De exemplu, dacă un clip video cu o personalitate publică pare suspect, căutați declarații oficiale sau raportări ale mass-mediei care pot confirma sau infirma veridicitatea conținutului.

Utilizarea Instrumentelor de Detectare

Tehnologia de detectare a deepfake-urilor evoluează rapid, cu noi aplicații și software-uri dezvoltate pentru a identifica manipulările. Aceste instrumente analizează adesea detalii fine, cum ar fi inconsistențele în clipirea ochilor, mișcările faciale anormale sau discrepanțele în pattern-urile vocale, care sunt greu de replicat în mod convingător prin tehnologiile deepfake actuale.

Un exemplu notabil este rețeaua neurală dezvoltată de cercetători de la Universitatea din Buffalo [1], care poate detecta deepfake-urile prin analiza ratei de clipire a ochilor. De asemenea, companii precum Microsoft au lansat instrumente ca "Microsoft Video Authenticator"[2], care analizează videoclipurile pentru a oferi un scor de probabilitate că materialul este un deepfake.

Adobe Content Authenticity Initiative [3] este  un alt proiect care își propune să dezvolte un standard industrial pentru verificarea autenticității conținutului. Scopul este de a oferi creatorilor de conținut instrumente pentru a eticheta conținutul digital cu metadate verificabile, astfel încât manipulările să poată fi ușor detectate.

În ultimii ani, România, la fel ca multe alte țări, a fost scena unei noi forme de fraude financiare amplificate de tehnologia deepfake. Astfel, au apărut videoclipuri în care persoane publice, cunoscute pentru credibilitatea lor, încurajează publicul să investească în diverse platforme financiare, criptomonede sau scheme de investiții care se dovedesc a fi frauduloase. Aceste deepfake-uri sunt realizate cu scopul de a manipula percepția publicului și de a încuraja decizii financiare nesăbuite, bazate pe încrederea în personalități respectate.

Strategii de Detectare

Verificarea declarațiilor oficiale: Înainte de a lua în considerare investiția sugerată de o personalitate publică într-un videoclip, căutați declarații oficiale sau postări pe rețelele sociale ale respectivei persoane pentru a confirma autenticitatea propunerii de investiție.

Analiza calității videoclipului: Atenție la semnele care indică un deepfake, cum ar fi neconcordanțele în mișcarea buzelor, expresii faciale care nu par naturale sau erori de sincronizare a sunetului.

Consultarea surselor financiare de încredere: Înainte de a investi, este esențial să cercetați platforma sau produsul menționat, consultând recenzii independente și analize financiare de la experți recunoscuți în domeniu.

Exemple Specifice

Videoclipuri cu Personalități Financiare: Au fost cazuri în care figuri de autoritate în domeniul financiar promovează oportunități de investiții cu randamente neobișnuit de mari, care ulterior se dovedesc a fi scheme Ponzi sau alte tipuri de fraude.

Reclame Deepfake pentru Criptomonede: În unele situații, deepfake-urile prezintă celebrități sau investitori de succes care promovează investiții în criptomonede „nou-născute”, care se dovedesc a fi speculative sau complet nevaloroase.

Educația clienților reprezintă un pilon esențial în combaterea fraudelor legate de deepfake-uri. Înțelegerea modului în care aceste tehnologii funcționează și recunoașterea semnelor de avertizare poate ajuta indivizii să devină mai sceptici și mai critici față de conținutul pe care îl întâlnesc online.

Surse:

[1]https://openaccess.thecvf.com/content/WACV2024/papers/Ju_Improving_Fairness_in_Deepfake_Detection_WACV_2024_paper.pdf

[2]https://blogs.microsoft.com/on-the-issues/2020/09/01/disinformation-deepfakes-newsguard-video-authenticator/

[3]https://fortune.com/2023/04/07/adobe-content-authenticity-initiative-deepfake/

Silviu GRESOI – Membru APCF