Uwierzytelnianie obrazów: Jak zweryfikować, czy zdjęcie jest prawdziwe

Co to jest uwierzytelnianie obrazów i dlaczego jest ważne?

Uwierzytelnianie obrazów odpowiada na proste pytanie: czy to zdjęcie jest tym, czym się wydaje? To rozbija się na trzy oddzielne kontrole - czy obraz został zarejestrowany przez kamerę czy wygenerowany przez AI, czy był edytowany od momentu przechwycenia, czy kontekst wokół niego (kto go zrobił, kiedy i gdzie) jest dokładny. Zdjęcie może zawieść na którymkolwiek z nich, nawet jeśli przejdzie pozostałe. Prawdziwe, nieedytowane zdjęcie z prawdziwej kamery może nadal być udostępniane w fałszywym kontekście - stare zdjęcie powodzi ponownie opublikowane tak, jakby było z obecnej katastrofy, to klasyczny przykład, którego żadna kontrola na poziomie pikseli nie wyłapie. Uwierzytelnianie obrazów ma znaczenie, ponieważ zdjęcia i filmy wciąż noszą niezwykłą ilość domyślnego zaufania, a to zaufanie jest wykorzystywane w fałszywych recenzjach produktów, oszukańczych roszczeniach ubezpieczeniowych, oszustwach romantycznych, zmyślonych obrazach wiadomości i manipulowanych dowodach w sporach sądowych. Sprawa z 2024 roku w Hongkongu, w której pracownik przesłał ponad 25 milionów dolarów po rozmowie wideo z generowanymi przez AI dyrektorami, jest jednym głośnym przykładem, ale znacznie bardziej powszechne przypadki dotyczą jednego zmienionego lub wygenerowanego przez AI zdjęcia użytego do poparcia fałszywego twierdzenia. Podstawowa presja napędzająca popyt na uwierzytelnianie obrazów to szybkość: zmienione lub syntetyczne zdjęcie może dotrzeć do tysięcy ludzi online, zanim ktoś będzie miał szansę je sprawdzić, więc możliwość szybkiego uwierzytelnienia obrazu jest tak samo ważna co możliwość dokładnego uwierzytelnienia.

Jakie są główne metody weryfikacji autentyczności obrazów?

Nie istnieje pojedynczy test, który potwierdza autentyczność zdjęcia. W praktyce najsilniejsze metody weryfikacji autentyczności obrazów działają warstwowo razem, ponieważ każda wyłapuje inny rodzaj fałszerstwa i kompensuje nieznane obszary innych.

1. Inspekcja metadanych (EXIF) - prawdziwe zdjęcia z kamery zazwyczaj zawierają dane EXIF: model aparatu, obiektyw, ustawienia ekspozycji, współrzędne GPS i sygnaturę czasową utworzenia. Brak metadanych, metadane niezgodne z deklarowanym urządzeniem lub sygnatury czasowe niezgodne z historią to czerwone flagi, choć metadane mogą być również celowo usunięte lub edytowane.
2. Poświadczenia zawartości i weryfikacja C2PA - Coalition for Content Provenance and Authenticity (C2PA), wspierana przez Adobe, Microsoft, Google i BBC, osadza kryptograficznie podpisaną historię w pliku w momencie przechwycenia lub edycji. Nieuszkodzony podpis pokazuje dokładnie, jakie urządzenie lub oprogramowanie dotknęło obraz i kiedy; uszkodzony oznacza, że plik został zmieniony po podpisaniu.
3. Wyszukiwanie obrazów odwrotnych - uruchomienie zdjęcia przez Google Lens, TinEye lub Yandex Images pokazuje, czy pojawiło się online wcześniej, pod inną datą, lokalizacją lub podpisem. Ta pojedyncza kontrola sama w sobie wyłapuje dużą część przetworzonych lub błędnie opisanych obrazów.
4. Analiza poziomu błędu (ELA) i narzędzia kryminalistyczne - ELA podświetla obszary JPEG-a, które zostały ponownie zapisane lub edytowane po pierwotnej kompresji, ponieważ edytowane regiony kompresują się inaczej niż nienaruszone. Oprogramowanie kryminalistyczne, takie jak Amped Authenticate lub FotoForensics, łączy to z analizą wzorów szumu i klonów.
5. Klasyfikatory wykrywania AI - narzędzia szkolone na wyjściach z Midjourney, DALL-E, Stable Diffusion i podobnych generatorów szukają wzorów na poziomie pikseli i w domenie częstotliwości, które pozostawiają te modele, zwracając wynik prawdopodobieństwa, czy obraz jest generowany przez AI, czy fotografowany.
6. Ręczne przeglądy wizualne - sprawdzanie cieni, odbić, rąk, tekstu w tle i symetrii wyłapuje niespójności, które narzędzia automatyczne czasami przegapią, szczególnie w obrazach, które zostały skompresowane lub zmienione po edycji.

Jak działa weryfikacja pochodzenia obrazu i metadanych?

Uwierzytelnianie obrazów oparte na pochodzeniu działa inaczej niż metody oparte na wykrywaniu. Zamiast analizować obraz po fakcie, aby zgadnąć, czy jest fałszywy, dowodzi, że obraz jest autentyczny, śledząc jego pełną historię od momentu przechwycenia. Gdy aparat lub aplikacja kompatybilna z C2PA robi zdjęcie, dołącza podpisaną manifestację zawierającą każdą edycję, kadrowanie, filtr lub ulepszenie AI zastosowane później. Google, Adobe i wielu producentów aparatów obsługuje teraz ten standard bezpośrednio w swoich aplikacjach, a Google dokumentuje, jak poświadczenia zawartości pojawiają się na obrazach generowanych lub edytowanych za pomocą narzędzi Gemini i SynthID. Kompromis to zasięg: dane pochodzenia istnieją tylko wtedy, gdy zostały przechwycone. Zrzut ekranu, zdjęcie ze starszego urządzenia lub obraz pobrany i ponownie przesłany zazwyczaj w ogóle nie mają manifestu C2PA, co oznacza, że brak danych dotyczących pochodzenia nie dowodzi niczego samego w sobie - oznacza to tylko, że musisz wrócić do innych metod uwierzytelniania obrazów. Metadane EXIF to słabszy, starszy kuzyn tego podejścia: przydatne, gdy są obecne, łatwe do usunięcia lub fałszowania, i nigdy niewystarczające same w sobie.

Czy narzędzia do wykrywania AI mogą pomóc w uwierzytelnieniu obrazu?

Narzędzia do wykrywania AI to jeden element uwierzytelniania obrazów, nie cały obraz. Detektor szkolony na wyjściach z obecnych generatorów może wskazywać wysokie prawdopodobieństwo, że obraz pochodzi z Midjourney lub modelu dyfuzji, co jest przydatne, gdy głównym pytaniem jest, czy zdjęcie jest rzeczywiste czy generowane przez AI. Ale uwierzytelnianie obrazów często dotyczy pytań, do których detektor nigdy nie został zbudowany, takich jak czy autentycznie sfotografowany obraz został przycięty, aby usunąć kontekst, czy jest udostępniany z fałszywą datą i lokalizacją. Narzędzia do wykrywania również szybko się starzeją: klasyfikator szkolony na generatorach sprzed roku może przegapić wzorce z nowszego modelu, którego nigdy nie widział, więc wynik wykrywania najlepiej czytać jako prawdopodobieństwo, a nie ostateczny werdykt. To dokładnie dlatego uwierzytelnianie obrazów działało najlepiej jako kombinacja metod - narzędzie do wykrywania wskazuje prawdopodobną generację przez AI, podczas gdy metadane, dane dotyczące pochodzenia i wyszukiwanie obrazów odwrotnych wypełniają kontekst, którego detektor nie widzi.

Gdzie w praktyce używane jest uwierzytelnianie obrazów?

Uwierzytelnianie obrazów pojawia się w wielu codziennych sytuacjach, niż zdają sobie sprawę większość ludzi. Redakcje i organizacje sprawdzające fakty, takie jak Reuters, AFP i Bellingcat, uwierzytelniają obrazy przed publikacją, łącząc kontrole metadanych, wyszukiwanie odwrotne obrazów i weryfikację C2PA. Firmy ubezpieczeniowe coraz bardziej uwierzytelniają zdjęcia roszczeń, aby wyłapać przypadki, w których klient przesyła stare zdjęcie uszkodzenia, obraz giełdowy lub wygenerowany przez AI obraz uszkodzenia, które nigdy się nie miało. Internetowe platformy handlowe i platformy wynajmu przeprowadzają kontrole uwierzytelniania obrazów, aby odfiltrować ogłoszenia, które ponownie używają zdjęć kogoś innego lub generują fałszywe obrazy produktów. Aplikacje randkowe zaczęły uwierzytelniać zdjęcia profilowe po wzroście generowanych przez AI i catfishowanych profili. Platformy nieruchomości uwierzytelniają zdjęcia ogłoszeń, aby uchronić się przed wzmocnionymi przez AI lub całkowicie syntetycznymi zdjęciami pokazów mającymi fałszywe postrzeganie nieruchomości. Sądy i organy ścigania uwierzytelniają fotograficzne i materiał dowodowy wideo w ramach rutynowego przeglądu dopuszczalności, szczególnie gdy dowód generowany przez AI staje się bardziej powszechnym argumentem w sporach. Zespoły HR i usługi sprawdzania tła dodały kroki uwierzytelniania fotografii do zatrudniania, ponieważ zdjęcie ID kandydata lub zdjęcie portretowe może być teraz zamienione lub wygenerowane z niewielkim wysiłkiem. W każdym z tych przypadków podstawowe pytanie jest takie samo jak w centrum uwierzytelniania obrazów: czy można ufać temu konkretnemu obrazowi, aby reprezentować to, co twierdzi?

Jakie są ograniczenia obecnych metod uwierzytelniania obrazów?

Żadna metoda uwierzytelniania obrazów dostępna dzisiaj nie jest niezawodna, a zrozumienie luk jest tak samo ważne jak poznawanie technik. Metadane mogą być usunięte lub sfałszowane za pomocą powszechnego oprogramowania w ciągu sekund. Pochodzenie C2PA działa tylko wtedy, gdy urządzenie przechwytujące i każde oprogramowanie do edycji wspiera standard, co większość konsumenckich aparatów i platform społecznych wciąż nie robi. Klasyfikatory wykrywania AI są szkolone na poprzednich generatorach, więc zazwyczaj zaostrzają się o tygodnie do miesięcy za najnowszymi modelami obrazów, a techniki antagonistyczne zbudowane specjalnie, aby uniknąć detektorów, stają się coraz łatwiejsze do znalezienia. Kompresja z platform społecznych - Instagram, WhatsApp i podobne usługi ponownie kodują każdy obraz przy przesyłaniu - usuwa wiele subtelnych sygnałów, na których polegają zarówno manifesty C2PA, jak i klasyfikatory wykrywania. Wyszukiwanie obrazów odwrotnych działa tylko w przypadku obrazów, które pojawiły się online wcześniej, więc nowo generowane lub nowo przygotowane zdjęcie nie pojawi się w żadnym indeksie. Nawet ręczny przegląd ma okres trwałości: gdy generatory się ulepszają, wizualne oznaki, na których polegają wytrenowane oczy dzisiaj - dziwne ręce, niedopasowana biżuteria, zniekształcony tekst - są stopniowo naprawiane przez nowsze modele, co oznacza, że lista kontrolna dla uwierzytelniania obrazów musi być regularnie aktualizowana zamiast traktowanej jako stała. W praktyce oznacza to traktowanie uwierzytelniania obrazów jako ćwiczenia probabilistycznego zamiast binarnego testu powodzenia lub porażki oraz łączenie wielu metod zamiast ufania którymkolwiek z nich.

Jak NotGPT pomaga w uwierzytelnianiu obrazów

Narzędzie NotGPT do wykrywania obrazów generowanych przez AI jest jedną warstwą praktycznego workflow'u uwierzytelniania obrazów. Przesyłaj dowolne zdjęcie, a narzędzie analizuje artefakty wizualne, wzorce w domenie częstotliwości i niespójności strukturalne, aby zwrócić wynik prawdopodobieństwa, czy obraz został wygenerowany za pomocą narzędzi takich jak Midjourney, DALL-E czy Stable Diffusion. Ponieważ dezinformacja i kampanie oszustów często łączą syntetyczny obraz z tekstem napisanym przez AI - fałszywą recenzję produktu, zmyśloną podpis, wiadomość phishingową - narzędzie NotGPT do wykrywania tekstu generowanego przez AI sprawdza towarzyszący tekst w tym samym czasie, dając pełniejszy obraz uwierzytelniania niż samo sprawdzenie obrazu. Oba narzędzia przetwarzają zawartość bezpośrednio, a nie kierują jej przez czarną skrzynię, co jest ważne, gdy zdjęcie, które uwierzytelniasz, jest wrażliwe lub prywatne. Aby uzyskać najlepsze wyniki, połącz wykrywanie AI z innymi metodami weryfikacji autentyczności obrazów omówionymi powyżej - inspekcję metadanych, wyszukiwanie obrazów odwrotnych i kontrole pochodzenia C2PA, gdzie są dostępne - zamiast polegać na pojedynczym narzędziu.