Autentificarea imaginilor: Cum să verifici dacă o fotografie este reală

Ce este autentificarea imaginilor și de ce este importantă?

Autentificarea imaginilor răspunde la o întrebare simplă: este această fotografie ceea ce pare să fie? Aceasta se împarte în trei verificări separate - dacă imaginea a fost capturată de o cameră sau generată de IA, dacă a fost modificată după captură, și dacă contextul din jurul ei (cine a luat-o, când și unde) este exact. O fotografie poate eșua la oricare dintre acestea, chiar dacă trece prin celelalte. O fotografie reală, nemodificată dintr-o cameră reală poate fi în continuare partajată într-un context fals - o fotografie veche a unei inundații republicată ca și cum ar fi din dezastrul actual este un exemplu clasic pe care nicio verificare la nivel de pixel nu o va prinde. Autentificarea imaginilor este importantă deoarece fotografiile și videoclipurile poartă în continuare o cantitate neobișnuită de încredere implicită, iar această încredere este exploatată în recenzii false de produse, revendicări de asigurare frauduloase, escrocherii romantice, imagini de știri fabricate și dovezi manipulate în litigii. Cazul din 2024 din Hong Kong, în care un angajat a trimis peste 25 de milioane de dolari după un apel video cu directori generați de IA, este un exemplu notabil, dar cazurile mult mai frecvente implică o singură fotografie modificată sau generată de IA utilizată pentru a susține o afirmație falsă. Presiunea subiacent care conduce cererea de autentificare a imaginilor este viteza: o fotografie modificată sau sintetică poate ajunge la mii de oameni online înainte ca cineva să aibă șansa să o verifice, așa că abilitatea de a autentifica rapid o imagine este la fel de importantă ca abilitatea de a o autentifica cu acuratețe.

Care sunt principalele metode de verificare a autenticității imaginilor?

Nu există un singur test care să dovedească că o fotografie este autentică. În practică, cele mai puternice metode de verificare a autenticității imaginilor funcționează în straturi împreună, deoarece fiecare detectează un tip diferit de falsificare și acoperă punctele oarbe ale celorlalte.

1. Inspectarea metadatelor (EXIF) - fotografiile reale din cameră poartă de obicei date EXIF: modelul camerei, obiectivul, setările expunerii, coordonatele GPS și marca de timp a creării. Absentul metadatelor, metadatele care nu se potrivesc cu dispozitivul revendicat sau marcile de timp care nu se aliniază cu poveste sunt semne roșii, deși metadatele pot fi, de asemenea, șterse sau editate deliberat.
2. Acreditări de conținut și verificarea C2PA - Coalition for Content Provenance and Authenticity (C2PA), susținută de Adobe, Microsoft, Google și BBC, încorporează o istorie criptografic semnată într-un fișier în momentul capturii sau editării. O semnătură intactă arată exact ce dispozitiv sau software a atins imaginea și când; una ruptă înseamnă că fișierul a fost modificat după semnare.
3. Căutare inversă a imaginii - rularea unei fotografii prin Google Lens, TinEye sau Yandex Images arată dacă a apărut online anterior, sub o dată, locație sau legendă diferită. Această singură verificare prin ea însăși capturează o mare parte din imaginile reciclate sau greșit descrise.
4. Analiza nivelului de eroare (ELA) și instrumente criminalistice - ELA evidențiază zone ale unei imagini JPEG care au fost re-salvate sau editate după compresia inițială, deoarece regiunile editate se comprimă diferit decât cele neatamate. Software-ul criminalistic, cum ar fi Amped Authenticate sau FotoForensics, combină aceasta cu analiza modelelor de zgomot și detecția clonelor.
5. Clasificatori de detectare a IA - instrumente antrenate pe ieșirile din Midjourney, DALL-E, Stable Diffusion și generatoare similare caută modele la nivel de pixel și în domeniul frecvenței pe care le lasă modelele, returnând un scor de probabilitate pentru a ști dacă o imagine a fost generată de IA decât fotografiată.
6. Revizuire vizuală manuală - verificarea umbrelor, reflecțiilor, mâinilor, textului din fundal și simetriei capturează inconsistențe pe care instrumentele automatizate uneori le ratează, mai ales în imagini care au fost comprimate sau redimensionate după ce au fost editate.

Cum funcționează verificarea provenienței imaginii și metadatelor?

Autentificarea imaginilor bazată pe proveniență funcționează diferit decât metodele bazate pe detecție. În loc să analizezi o imagine după fapte pentru a ghici dacă este falsă, dovedește că imaginea este autentică urmărind întreaga ei istorică de la momentul capturii. Când o cameră sau aplicație compatibilă cu C2PA ia o fotografie, atașează un manifest semnat care listează fiecare editare, decupare, filtru sau îmbunătățire IA aplicată ulterior. Google, Adobe și mai mulți producători de camere acceptă acum acest standard direct în aplicațiile lor, iar Google documentează cum apar acreditările de conținut pe imagini generate sau editate cu instrumente Gemini și SynthID. Compromisul este acoperirea: datele de proveniență există doar dacă au fost capturate la început. O captură de ecran, o fotografie dintr-un dispozitiv mai vechi, sau o imagine descărcată și re-încărcată nu are de obicei deloc un manifest C2PA, ceea ce înseamnă că absența datelor de proveniență nu dovedește nimic de la sine - înseamnă doar că trebuie să revii la alte metode de autentificare a imaginilor. Metadatele EXIF sunt un verișor mai slab și mai vechi al acestei abordări: utile când sunt prezente, ușor de șters sau falsificat, și niciodată suficiente de la sine.

Pot instrumentele de detectare a IA ajuta la autentificarea unei imagini?

Instrumentele de detectare a IA sunt o bucată a autentificării imaginilor, nu întreaga imagine. Un detector antrenat pe ieșirile din generatoare curente poate semnala o probabilitate ridicată că o imagine provine din Midjourney sau un model de difuzie, ceea ce este util atunci când întrebarea principală este dacă o fotografie este reală sau generată de IA. Dar autentificarea imaginilor implică adesea întrebări pe care un detector nu a fost niciodată construit să le răspundă, cum ar fi dacă o imagine fotografiată autentică a fost decupată pentru a elimina context, sau dacă este partajată cu o dată și locație falsă atașată. Instrumentele de detectare se îmbătrânesc, de asemenea, rapid: un clasificator antrenat pe generatoare din anul trecut poate rata modele dintr-un model mai nou pe care nu l-a văzut niciodată, așa că un rezultat de detectare este cel mai bine citit ca o probabilitate decât un verdict final. Asta este exact de ce autentificarea imaginilor funcționează cel mai bine ca o combinație de metode - un instrument de detectare semnalează generarea probabil de IA, în timp ce metadatele, datele de proveniență și căutarea inversă a imaginii completează contextul pe care detectorul nu îl vede.

Unde este folosită autentificarea imaginilor în practică?

Autentificarea imaginilor apare în mai multe situații de zi cu zi decât și-ar da seama majoritatea oamenilor. Redacțiile și organizațiile de verificare a faptelor, cum ar fi Reuters, AFP și Bellingcat, autentifică imaginile înainte de publicare, combinând verificări de metadate, căutare inversă a imaginii și verificare C2PA. Companiile de asigurări autentifică din ce în ce mai mult fotografiile cu reclamații pentru a prinde cazurile în care un client depune o fotografie veche cu daune, o imagine din stoc sau o imagine generată de IA a daunelor care nu s-au întâmplat niciodată. Piețele online și platformele de închiriere efectuează verificări de autentificare a imaginilor pentru a filtra anunțurile care refolosesc fotografiile altcuiva sau generează imagini false de produse. Aplicațiile de dating au început să autentifice fotografiile profilului după o creștere a profilurilor generate de IA și catfished. Platformele imobiliare autentifică fotografiile de anunțuri pentru a preveni imagini îmbunătățite de IA sau în întregime sintetice ale scenei care dau o reprezentare falsă a unei proprietăți. Tribunalele și agențiile de aplicare a legii autentifică dovezi fotografice și materiale video ca parte de rutină a revizuirii admisibilității, mai ales pe măsură ce dovezile generate de IA devin un argument mai frecvent în litigii. Echipele de HR și serviciile de verificare a antecedentelor au adăugat pași de autentificare a fotografiei la angajare, deoarece fotografia de ID a candidatului sau portretul poate fi acum schimbat sau generat cu puțin efort. În fiecare dintre aceste cazuri, întrebarea subiacent este aceeași ca în centrul autentificării imaginilor: poate fi încredință această imagine specifică să reprezinte ceea ce pretinde?

Care sunt limitele metodelor actuale de autentificare a imaginilor?

Nicio metodă de autentificare a imaginilor disponibilă astazi nu este sigură, iar înțelegerea lacunelor este la fel de importantă ca și cunoașterea tehnicilor. Metadatele pot fi șterse sau falsificate cu software obișnuit în secunde. Proveniența C2PA funcționează doar dacă dispozitivul de captură și fiecare instrument de editare din aval acceptă standardul, pe care majoritatea camerelor pentru consumatori și platformelor sociale nu le fac încă. Clasificatorii de detectare a IA sunt antrenați pe generatoare anterioare, deci tipic se întârzie cu săptămâni până la luni în spatele celor mai noi modele de imagini, iar tehnicile antagoniste construite special pentru a evita detectorii devin mai ușor de găsit. Compresia din platformele sociale - Instagram, WhatsApp și servicii similare re-codifică fiecare imagine la încărcare - elimină o mare parte din semnalele subtile pe care ambele manifeste C2PA și clasificatori de detectare se bazează. Căutarea inversă a imaginii funcționează doar pentru imagini care au apărut online anterior, deci o fotografie recent generată sau recent montată nu va apărea în niciun index. Chiar și revizuirea manuală are un termen de viață: pe măsură ce generatoarele se îmbunătățesc, semnele vizuale pe care ochii antrenați le folosesc astazi - mâini ciudate, bijuterie nepotrivită, text distorsionat - sunt treptat reparate de modele mai noi, ceea ce înseamnă că lista de verificare pentru autentificarea imaginilor trebuie actualizată regulat decât tratată ca fixă. În practică, aceasta înseamnă tratarea autentificării imaginilor ca exercițiu de probabilitate în loc de test binar pass/fail și combinarea mai multor metode decât încredere în oricare dintre ele.

Cum ajută NotGPT la autentificarea imaginilor

Instrumentul NotGPT de detectare a imaginilor generate de IA este un strat al fluxului de lucru practic de autentificare a imaginilor. Încarcă orice fotografie și analizează artefactele vizuale, modelele în domeniul frecvenței și inconsistențele structurale pentru a returna un scor de probabilitate pentru a ști dacă imaginea a fost generată de instrumente precum Midjourney, DALL-E sau Stable Diffusion. Deoarece dezinformarea și campaniile de escrocherie combină adesea o imagine sintetică cu text scris de IA - o recenzie false de produs, o legendă fabricată, un mesaj de phishing - instrumentul NotGPT de detectare a textului generat de IA verifică textul însoțitor în același timp, oferind o imagine mai completă a autentificării decât verificarea doar a imaginii. Ambele instrumente procesează conținut direct în loc să îl canaliza printr-o cutie neagră, ceea ce este important atunci când fotografia pe care o autentifici este sensibilă sau privată. Pentru rezultatele mai bune, combină detectarea IA cu celelalte metode de verificare a autenticității imaginilor acoperite mai sus - inspectarea metadatelor, căutarea inversă a imaginii și verificări de proveniență C2PA unde sunt disponibile - decât apelez pe un singur instrument.