Usuwacz metadanych pikseli sztucznej inteligencji: Co robi i dlaczego obrazy sztucznej inteligencji pozostają wykrywalne

Czym są metadane pikseli sztucznej inteligencji — i dwa typy, które musisz znać

Fraza "metadane pikseli sztucznej inteligencji" jest używana luźno do opisania dwóch fundamentalnie różnych rzeczy, a ich pomylenie wyjaśnia większość zamieszania wokół narzędzi do usuwania metadanych pikseli sztucznej inteligencji. Pierwszym typem są metadane na poziomie pliku: informacje strukturalne przechowywane w kontenerze pliku obok danych pikseli, w tym pola EXIF (data utworzenia, nazwa oprogramowania, profil barw), tagi IPTC, adnotacje XMP i — dla obrazów wygenerowanych przez sztuczną inteligencję z platform uczestniczących — poświadczenia zawartości C2PA. C2PA oznacza Coalition for Content Provenance and Authenticity, standard branżowy współopracowany przez Adobe, Microsoft, BBC i Intel, między innymi. Poświadczenie C2PA to kryptograficznie podpisany certyfikat osadzony w pliku obrazu, który rejestruje oświadczenie "ten obraz został wygenerowany przez sztuczną inteligencję", wraz z nazwą modelu, platformą i znacznikiem czasowym. To są metadane obrazu sztucznej inteligencji, które usuwają standardowe narzędzia do usuwania, a każde narzędzie do usuwania metadanych pikseli sztucznej inteligencji na rynku obsługuje tę warstwę. Drugim typem są metadane na poziomie pikseli — które nie są metadanymi w sensie struktury pliku, ale raczej wzorcami wbudowanymi w rzeczywiste wartości pikseli wytwarzane przez model generatywny. Każde podejście do generowania obrazów sztucznej inteligencji (sieci GAN, modele dyfuzji, modele autoregresywne) tworzy obrazy o charakterystycznych właściwościach statystycznych, które różnią się od fotografii wykonanych aparatem. Te właściwości są kodowane w samych danych pikseli. Niewidzialne znaki wodne, takie jak SynthID firmy Google DeepMind, idą dalej: celowo zmieniają określone wartości pikseli podczas generowania, aby zakodować wykrywalny sygnał, który przetrwa kompresję JPEG, przycinanie i konwersję formatu. Usunięcie tagu C2PA nie robi nic dla żadnej z tych właściwości na poziomie pikseli. Dlatego właśnie poszukiwanie prawdziwego "niewykrywalnego obrazu sztucznej inteligencji" przy użyciu narzędzia do usuwania metadanych pikseli sztucznej inteligencji całkowicie mija znacznie większy problem — kontener pliku jest łatwą częścią.

1. Metadane na poziomie pliku (EXIF, IPTC, XMP) są przechowywane w kontenerze pliku obrazu i mogą być odczytywane lub usuwane przy użyciu standardowych narzędzi
2. Poświadczenia zawartości C2PA to kryptograficznie podpisany certyfikat pochodzenia sztucznej inteligencji osadzony w metadanych pliku — usunięcie go jest trywialne z dowolnym edytorem EXIF
3. Sygnatury na poziomie pikseli wynikają z właściwości statystycznych tego, jak modele generatywne tworzą obrazy — żadne narzędzie do edycji plików nie może ich zmienić
4. Niewidzialne znaki wodne na poziomie pikseli, takie jak SynthID, są osadzane w rzeczywistych wartościach pikseli podczas generowania, specjalnie zaprojektowane, aby przetrwać konwersję formatu i kompresję
5. Te dwie kategorie wymagają całkowicie różnych podejść do analizy i usuwania — większość "usuwaczów metadanych sztucznej inteligencji" dotyczy tylko pierwszego

Jak platformy sztucznej inteligencji osadzają metadane obrazu sztucznej inteligencji w wygenerowanych obrazach

Praktyki metadanych obrazu sztucznej inteligencji różnią się znacznie między platformami, a wiedza o tym, które platformy osadzają co, pomaga zrozumieć, co faktycznie napotyka narzędzie do usuwania. DALL-E 3 OpenAI domyślnie osadza poświadczenia zawartości C2PA w każdym generowanym obrazie, rejestrując podpisane oświadczenie, że obraz został utworzony przez model sztucznej inteligencji. Adobe Firefly robi to samo, a obrazy wyświetlane w zgodnym oprogramowaniu pokazują małą ikonę "Poświadczenia zawartości" łączącą się z informacją o pochodzeniu. Obie platformy zaangażowały się w Content Authenticity Initiative, organ branżowy nadzorujący przyjęcie C2PA. Midjourney nie konsekwentnie osadza metadane C2PA we wszystkich formatach wyjściowych i kanałach dostarczania, chociaż praktyki ewoluowały. Stable Diffusion i inne modele dyfuzji open source generują obrazy bez osadzonych metadanych, chyba że aplikacja hostingowa (taka jak interfejsy DreamStudio lub Automatic1111) je dodaje — a większość tego nie robi. Modele Imagen Google, dostępne za pośrednictwem Vertex AI i programów badawczych Google DeepMind, implementują znaki wodne SynthID na poziomie pikseli zamiast metadanych pliku. SynthID jest szczególnie godny uwagi, ponieważ działa całkowicie poza kontenerem pliku: żaden edytor EXIF, przepływ pracy zrzutu ekranu ani konwerter formatu nie może go usunąć, ponieważ w ogóle nie istnieje w warstwie metadanych. Komercyjne platformy zdjęć stockowych oferujące obrazy wygenerowane przez sztuczną inteligencję przyjęły różne podejścia — niektóre osadzają ujawnienia metadanych, niektóre opierają się na etykietowaniu na poziomie platformy, a niektóre nie dodają trwałych metadanych w ogóle. Praktyczna konsekwencja jest taka, że gdy otrzymasz obraz wygenerowany przez sztuczną inteligencję bez widocznych metadanych, nie możesz wywnioskować, że nigdy nie był wygenerowany przez sztuczną inteligencję; mógł pochodzić z platformy, która nigdy tego nie osadza, lub metadane mogły już zostać usunięte w poprzednim punkcie.

"Każdy wygenerowany przez nas obraz będzie zawierać poświadczenia zawartości, dając widzom więcej kontekstu na temat jego pochodzenia." — OpenAI, na temat implementacji C2PA DALL-E 3, 2023

Co naprawdę robią narzędzia do usuwania metadanych pikseli sztucznej inteligencji

Narzędzia sprzedawane jako usuwacze metadanych sztucznej inteligencji lub narzędzia do usuwania metadanych pikseli sztucznej inteligencji — czy to aplikacje autonomiczne, narzędzia oparte na przeglądarce czy skrypty — prawie powszechnie wykonują tę samą operację bazową: usuwają lub nadpisują kontener metadanych na poziomie pliku. Jest to funkcjonalnie identyczne z tym, co robią narzędzia do czyszczenia metadanych skoncentrowane na prywatności, gdy chcesz usunąć współrzędne GPS ze zdjęcia przed opublikowaniem go online. Rama specyficzna dla sztucznej inteligencji jest warstwą marketingową na ogólnej zdolności manipulacji plikami. Najczęstsze metody używane przez te narzędzia obejmują uruchamianie obrazów przez ExifTool lub ImageMagick z flagami usuwania metadanych, konwersję między formatami obrazów (PNG na JPEG lub odwrotnie) w taki sposób, aby odrzucić metadane ze źródła, ponowne eksportowanie za pośrednictwem edytora obrazu bez zaznaczenia opcji "zachowaj metadane", zrobienie zrzutu ekranu obrazu i zapisanie zrzutu ekranu jako nowy plik oraz używanie narzędzi online "usuwacz EXIF", które są po prostu prostymi usuwaczami metadanych z interfejsem zorientowanym na sztuczną inteligencję. Każde z tych podejść rzeczywiście usuwa poświadczenia zawartości C2PA, pola atrybutu sztucznej inteligencji EXIF i inne metadane obrazu sztucznej inteligencji z kontenera pliku. Same dane pikseli — każda rzeczywista wartość koloru na obrazie — są zasadniczo niezmienione. Zrzut ekranu jest czasami zalecany jako najbardziej wyczerpujące podejście, ponieważ tworzy całkowicie nowy plik bez odziedziczonych metadanych. Ale zrzut ekranu przechwytuje każdy piksel oryginalnego obrazu i wiernie je odtwarza w nowym pliku. Wzorce, które analizują detektory obrazów sztucznej inteligencji, nie znajdują się w warstwie metadanych obrazu sztucznej inteligencji; znajdują się w tych wartościach pikseli. Zrzut ekranu obrazu DALL-E zawiera wszystkie właściwości wizualne tego obrazu DALL-E. Nowy plik ma różne metadane; obraz wygląda identycznie, ponieważ jest identyczny na poziomie pikseli. Zastosowanie narzędzia do usuwania metadanych pikseli sztucznej inteligencji do tego zrzutu ekranu daje identyczny wynik: metadane pliku są czyste, a zawartość pikseli jest niezmieniona.

1. Narzędzia do usuwania EXIF usuwają kontener metadanych na poziomie pliku bez zmiany żadnej wartości piksela na obrazie
2. Zrzut ekranu tworzy nowy plik bez odziedziczonych metadanych, ale odtwarza całą oryginalną zawartość pikseli w stanie nienaruszonym
3. Konwersja formatu (PNG na JPEG lub odwrotnie) odrzuca metadane źródła, ale może zmienić wartości pikseli poprzez kompresję — to nie to samo co usuwanie podpisów sztucznej inteligencji
4. Ponowne eksportowanie z oprogramowania do edycji obrazu usuwa oryginalne metadane, ale zachowuje dane pikseli i może dodać nowe metadane oprogramowania do edycji
5. Narzędzia do usuwania metadanych sztucznej inteligencji online to typowo standardowe narzędzia do czyszczenia EXIF sprzedawane konkretnie osobom szukającym narzędzi do ukrywania obrazów sztucznej inteligencji

Dlaczego usuwanie metadanych sztucznej inteligencji nie tworzy niewykrywalnego obrazu sztucznej inteligencji

Przesłanka, że obraz sztucznej inteligencji bez metadanych jest niewykrywalnym obrazem sztucznej inteligencji, opiera się na nieporozumieniu na temat tego, jak naprawdę działa detekcja obrazów sztucznej inteligencji. Metadane obrazu sztucznej inteligencji to sygnał wtórny dla detektorów — przydatny, gdy jest obecny, ale nigdy nie stanowiący głównej podstawy dobrze zaprojektowanego systemu wykrywania. Detektor, który opiera się wyłącznie na metadanych obrazu sztucznej inteligencji, jest trywialnie pokonany nie tylko przez narzędzia do usuwania, ale także przez platformy, które nigdy nie osadzają metadanych; każdy badacz budujący poważny system trenuje na zawartości wizualnej, a nie na atrybutach pliku. Rzeczywiste sygnały wykrywania to właściwości danych pikseli. Obrazy wygenerowane przez sztuczną inteligencję — szczególnie te z modeli dyfuzji, które teraz dominują przestrzeń obrazów sztucznej inteligencji konsumentów — noszą spójne cechy wizualne, które aparaty nie wytwarzają. Tekstury w obrazach sztucznej inteligencji mają tendencję do bycia niezwykle regularnymi w całej klatce: skóra w portretach wygląda gładko w sposób, który różni się od skóry fotograficznej, która wykazuje mikroskopijne zmienności z porów, szczeciny, oleju i rozproszenia światła. Tła w obrazach sztucznej inteligencji często zanikają w malarską miękkość lub powtarzają motywy strukturalne, które wyglądają spójnie na pierwszy rzut oka, ale rozpuszczają się pod baczną inspekcją. Oświetlenie w scenach generowanych przez sztuczną inteligencję jest typowo globalnie konsystentne w sposób, który jest rzadki w rzeczywistej fotografii, gdzie odbite światło, okluzja otoczenia i częściowe cienie tworzą subtelne niespójności. Krawędzie w obrazach sztucznej inteligencji często wykazują charakterystyczny profil ostrości, który różni się zarówno od optycznie ostrych, jak i miękkich obiektywów aparatu. Żadna z tych właściwości nie ma nic wspólnego z kontenerem metadanych pliku. Usunięcie tagu C2PA lub uruchomienie narzędzia do usuwania metadanych pikseli sztucznej inteligencji na obrazie DALL-E nie zmienia jego tekstur, modelu oświetlenia, profilu krawędzi ani żadnej z innych właściwości wizualnych, które mierzy detekcja na poziomie pikseli. Obraz bez metadanych obrazu sztucznej inteligencji — być może dlatego, że pochodzi z modelu open source, który nigdy nic nie pisze — jest nadal w pełni analizowalny i identyfikowalny przez detektory, które działają na podstawie zawartości wizualnej. Poszukiwanie "niewykrywalnego obrazu sztucznej inteligencji" poprzez usuwanie metadanych rozwiązuje błędny problem za pomocą błędnych narzędzi.

"Metadane mogą być fałszowane, usuwane lub nigdy nie być obecne na początku — każdy system detekcji, który opiera się na nich jako sygnale podstawowym, nie jest poważnym detektorem." — Badacz uczenia maszynowego, 2024

Jak detekcja obrazów sztucznej inteligencji na poziomie pikseli naprawdę działa

Zrozumienie metod na poziomie pikseli używanych przez detektory obrazów sztucznej inteligencji czyni ograniczenia usuwania metadanych obrazu sztucznej inteligencji konkretnymi zamiast abstrakcyjnymi. Nowoczesne systemy detekcji łączą kilka niezależnych podejść analitycznych, więc nawet jeśli jeden sygnał jest częściowo zasłonięty, pozostałe dostarczają dowód wspierający. Klasyfikatory sieci neuronowych trenowane na zbilansowanych zbiorach danych rzeczywistych fotografii i obrazów wygenerowanych przez sztuczną inteligencję uczą się rozróżniać między nimi, identyfikując kombinacje cech wizualnych — żadna pojedyncza cecha nie jest definitywna, ale razem tworzą oszacowanie prawdopodobieństwa. Analiza tekstury bada, jak szczegóły powierzchni są rozprowadzane i powtarzane na całym obrazie. Tekstury generowane przez sztuczną inteligencję wykazują charakterystyczną nadregularyzację: model wypełnia obszary wyglądającymi wiarygodnie szczegółami, ale tego szczegółu brakuje chaotycznej mikroskopijnej losowości rzeczywistych powierzchni. Fotografia tkaniny wykazuje nieregularność na poziomie włókna, którą żaden bieżący model dyfuzji nie odtwarza niezawodnie. To samo dotyczy trawy, włosów, piasku i każdej powierzchni, gdzie losowość w mikroskali jest naturalną właściwością. Analiza domeny częstotliwości konwertuje dane pikseli na jego komponenty częstotliwości i identyfikuje wzorce charakterystyczne dla konkretnych architektur generatywnych. Modele dyfuzji wytwarzają charakterystyczne artefakty wysokiej częstotliwości podczas procesu usuwania szumu, które pojawiają się jako subtelne wzorce okresowe w transformacie Fouriera obrazu — wzorce, które utrzymują się poprzez usuwanie metadanych obrazu sztucznej inteligencji i większość konwersji formatów, ponieważ są wpisane w sposób, w jaki model konstruuje wartości pikseli. Analiza spójności semantycznej identyfikuje obrazy, w których obszary lokalne są indywidualnie wiarygodne, ale globalnie niespójne: dłonie z anatomicznie niemożliwymi ustawieniami palców, biżuteria, która zmienia projekt między lewą i prawą stroną portretu, tła zawierające obiekty, które częściowo łączą się z głównym przedmiotem na ich granicach. Problem spójności nie jest wykrywalny z metadanych obrazu sztucznej inteligencji — wymaga odczytania rzeczywistej zawartości obrazu. Detektory specyficzne dla GAN dodatkowo badają odciski palców spektralne — okresowe wzorce w przestrzeni pikseli, które wynikają z warstw nadpróbkowania w architekturach GAN. Te odciski palców są różne dla różnych rodzin GAN i czasami mogą rozróżnić nie tylko sztuczną inteligencję od rzeczywistości, ale także, która rodzina modelu wyprodukowała obraz. Wszystkie te sygnały są obecne niezależnie od tego, czy plik zawiera metadane obrazu sztucznej inteligencji, nie zawiera metadanych obrazu sztucznej inteligencji, czy metadane, które zostały usunięte przez narzędzie do usuwania metadanych pikseli sztucznej inteligencji przed analizą.

1. Klasyfikatory sieci neuronowych trenowane na rzeczywistych i sztucznych zbiorach danych obrazów identyfikują kombinacje cech wizualnych wskazujące pochodzenie sztucznej inteligencji — niezależnie od metadanych
2. Analiza tekstury wykrywa nadregularyzację w szczegółach powierzchni: tekstury sztucznej inteligencji brakuje mikroskopijnej losowości rzeczywistych powierzchni fotografowanych przez kamerę
3. Analiza domeny częstotliwości identyfikuje artefakty spektralne wytwarzane podczas procesu usuwania szumu modelu dyfuzji — te okresowe wzorce przetrwają usuwanie metadanych i większość konwersji formatów
4. Weryfikacja spójności semantycznej znajduje obrazy, w których regiony lokalne są wiarygodne, ale globalna kompozycja zawiera anatomicznie lub fizycznie niemożliwe relacje
5. Analiza odcisku palca GAN identyfikuje unikalne okresowe wzorce spektralne dla konkretnych architektur GAN, czasami umożliwiając przypisanie do konkretnej rodziny modeli

Co przetrwa zrzut ekranu i konwersję formatu

Zrzut ekranu i konwersja formatu to dwie techniki najczęściej zalecane w dyskusjach online na temat tworzenia niewykrywalnych obrazów sztucznej inteligencji. Obie zasługują na szczegółowe zbadanie, ponieważ ich rzeczywiste zachowanie różni się od tego, co twierdzą zwolennicy. Gdy zrobisz zrzut ekranu obrazu wygenerowanego przez sztuczną inteligencję, przechwytasz wierną reprezentację pikseli obrazu, jak jest renderowana na ekranie. Każda wartość piksela z oryginału jest odtwarzana na zrzucie ekranu (z wyjątkiem skalowania ekranu i obsługi profilu kolorów, które wprowadzają minimalne różnice nieistotne dla detekcji). Zrzut ekranu nie ma odziedziczonych metadanych — nosi tylko metadane narzędzia do zrzutu ekranu, takie jak nazwa aplikacji i znacznik czasowy. Ale zawartość wizualna jest identyczna. Detektory analizujące zrzut ekranu widzą te same właściwości tekstury, charakterystyki domeny częstotliwości i niespójności semantyczne, które widzieliby w oryginale. W przypadku znaków wodnych na poziomie pikseli SynthID opublikowane badania Google wyraźnie zaznaczają, że znak wodny jest zaprojektowany specjalnie, aby przetrwać zrzut ekranu, a dokładność detekcji pozostaje wysoka po wielu rundach zrzutu ekranu i ponownego zrzutu ekranu. Konwersja formatu na JPEG wprowadza kompresję stratną, która modyfikuje wartości pikseli, usuwając informacje o wysokiej częstotliwości poprzez kwantyzację transformacji kosinusowej. W praktyce może to nieznacznie zmniejszyć pewność detekcji dla niektórych starszych detektorów opartych na GAN, które opierają się na granicznych odciskach spektralnych — kompresja JPEG w pewnym stopniu zakłóca te odciski. Jednak wykrywanie nowoczesnych modeli dyfuzji pozostaje w dużej mierze nienaruszone, ponieważ wykrywane sygnały działają na bardziej grubych skalach niż artefakty kwantyzacji JPEG. Bardziej grube właściwości regularności tekstury, modelu oświetlenia i spójności semantycznej nie są usuwane przez kompresję. Badania nad odpornością detekcji obrazów sztucznej inteligencji konsekwentnie wykazały, że agresywna rekodowania JPEG (ustawienia jakości poniżej 50%) pogarsza dokładność detekcji we wszystkich typach modeli, ale przy tych ustawieniach jakości sam obraz degraduje się widocznie w sposób, który czyni go nieprzydatnym dla większości celów.

Uzasadnione powody do usuwania metadanych obrazu sztucznej inteligencji

Nie każde użycie narzędzia do usuwania metadanych pikseli sztucznej inteligencji wiąże się z zamiarem oszukania. Istnieje kilka uzasadnionych scenariuszy, w których usuwanie metadanych obrazu sztucznej inteligencji jest rutynową decyzją zarządzania zawartością, a traktowanie całej eliminacji jako podejrzanej przesadza sprawę. Ochrona prywatności jest powszechnym uzasadnionym powodem: niektóre platformy generowania obrazów sztucznej inteligencji osadzają informacje o obrazach referencyjnych lub monitach w metadanych obrazu sztucznej inteligencji, a jeśli użyłeś osobistego zdjęcia jako danych wejściowych, być może nie chcesz, aby to połączenie było zachowywane w rozpowszechnianym pliku. Wrażliwość biznesowa to kolejny powód: organizacje korzystające z narzędzi sztucznej inteligencji do generowania obrazów koncepcji produktu lub zasobów projektowych mogą nie chcieć ujawniać, które platformy wykorzystują w udostępnianych plikach klientów — jest to standardowe rozważenie bezpieczeństwa operacyjnego, a nie ukrywanie pochodzenia sztucznej inteligencji, które wpłynęłoby na decyzje odbiorcy. Cele testowania i badań tworzą uzasadnione potrzeby usuwania metadanych obrazu sztucznej inteligencji: ocena, czy detektory obrazów sztucznej inteligencji mierzą zawartość wizualną czy metadane, wymaga karmienia ich obrazami bez metadanych, a ta metodologia jest ważna do oceny tego, co detektory faktycznie robią. Kompatybilność systemu może również motywować usuwanie: niektóre systemy archiwizacji, publikacji i dystrybucji obsługują metadane obrazu sztucznej inteligencji niespójnie, a rozpoczęcie czystego stanu metadanych zapewnia spójne zachowanie w całym przepływie pracy. Przepływy pracy twórcze również tworzą uzasadnione przypadki: artysta, który generuje obraz bazowy za pomocą sztucznej inteligencji, a następnie znacznie go transformuje poprzez ręczne przepracowanie, może rozsądnie usunąć oryginalne metadane generacji, ponieważ ostateczne dzieło jest kompozycją, której części wygenerowane przez sztuczną inteligencję nie są dokładnie opisane przez metadane oryginalnego narzędzia. Te przypadki użycia mają wspólną cechę: usunięcie nie ma na celu zmianę przekonania odbiorcy na temat tego, czy obraz jest wygenerowany przez sztuczną inteligencję, gdy to przekonanie jest ważne dla jego decyzji. Rozróżnienie między ochroną prywatności lub praktyką operacyjną a aktywnym zniekształceniem zależy od kontekstu — przede wszystkim od tego, czy pochodzenie sztucznej inteligencji obrazu jest istotnym faktem w sytuacji, w której obraz jest używany.

1. Prywatność: usuń dane obrazu referencyjnego lub tekst monitu osadzone w metadanych przed rozpowszechnianiem wygenerowanego obrazu
2. Poufność biznesowa: usuń metadane identyfikacji narzędzia z obrazów koncepcji przed udostępnieniem na zewnątrz, gdy wybór platformy jest operacyjnie wrażliwy
3. Badania i ocena: przetestuj, czy detektor mierzy zawartość wizualną czy metadane, podając próbki bez metadanych
4. Kompatybilność systemu: zapewnij czysty i spójny stan metadanych podczas rozpowszechniania obrazów poprzez potoki archiwizacji lub publikacji ze zmienną obsługą metadanych
5. Standaryzacja operacyjna: ustal wewnętrzny standard metadanych obrazu, który oddziela informacje narzędzia generowania od metadanych dystrybucji

Kiedy usuwanie metadanych staje się problemem zniekształcenia

Kontekst, w którym obraz wygenerowany przez sztuczną inteligencję jest używany, określa, czy usuwanie jego metadanych jest rutynowe czy problematyczne. Gdy pochodzenie sztucznej inteligencji obrazu jest istotnym faktem — co oznacza, że rozsądny odbiorca podejmowałby inną decyzję, gdyby wiedział, że obraz został wygenerowany przez sztuczną inteligencję — wtedy usuwanie metadanych specjalnie w celu zaciemnienia tego pochodzenia przekracza zarządzanie zawartością na zniekształcenie. Dziennikarstwo i media dokumentalne reprezentują najwyraźniejszy przypadek: używanie obrazu wygenerowanego przez sztuczną inteligencję pozbawionego jego poświadczeń zawartości do ilustracji artykułu informacyjnego, postu mediów społecznościowych lub raportu jak prawdziwego zdjęcia zniekształca naturę dowodu. To jest prawdziwe niezależnie od tego, co znajduje jakiekolwiek narzędzie detekcji. Zniekształcenie leży w zamiarze i kontekście, a nie w technicznym sukcesie lub porażce zakamuflowania. Konteksty akademickie stanowią ten sam problem: przesyłanie obrazów wygenerowanych przez sztuczną inteligencję w zadaniach lub artykułach badawczych wymagających oryginalnej fotografii lub dzieła sztuki, z usuniętymi metadanymi w celu zmniejszenia ryzyka detekcji, stanowi oszustwo akademickie zgodnie z większością polityk instytucjonalnych niezależnie od tego, czy detektor oznacza obraz. Konteksty dezinformacji są dobrze udokumentowane: obrazy sztucznej inteligencji postaci publicznych, scen katastrof i wydarzeń politycznych krążą po usuwaniu metadanych, aby specjalnie uniemożliwić przypisanie i weryfikację faktów. Warunki usługi platformy w większości usług generowania obrazów sztucznej inteligencji zabraniają używania wygenerowanych danych wyjściowych do oszukiwania innych na temat charakteru zawartości, a usuwanie metadanych w tym celu narusza te warunki niezależnie od jakiejkolwiek ekspozycji prawnej. Dla każdego oceniającego podejrzane obrazy w tych kontekstach — dziennikarze, nauczyciele, zespoły zaufania i bezpieczeństwa platformy — brak metadanych to nie czysty certyfikat zdrowia; to neutralne spostrzeżenie, które eliminuje szybki sygnał, pozostawiając analizę na poziomie pikseli do zrobienia.

Jak weryfikować obrazy sztucznej inteligencji, gdy metadane są nieobecne lub usunięte

Dla każdego, kto musi ustalić, czy obraz został wygenerowany przez sztuczną inteligencję — dziennikarze, nauczyciele, moderatorzy zawartości, badacze lub osoby, które otrzymały obraz i nie są pewne jego pochodzenia — właściwy przepływ pracy uwzględnia fakt, że metadane obrazu sztucznej inteligencji mogły nigdy być obecne lub mogły zostać usunięte przez narzędzie do usuwania metadanych pikseli sztucznej inteligencji w wcześniejszym punkcie. Zacznij od metadanych obrazu sztucznej inteligencji jako szybkiej wstępnej weryfikacji: jeśli poświadczenia zawartości C2PA są obecne i deklarują generowanie przez sztuczną inteligencję, to jest ostateczne pozytywne ustalenie. Użyj narzędzia, które może odczytać dane C2PA, a nie tylko podstawową EXIF — większość standardowych aplikacji fotograficznych nie wyświetla poświadczeń C2PA. Jeśli żadne metadane obrazu sztucznej inteligencji nie są obecne, to ustalenie jest neutralne, a nie negatywne. Następny krok to zawsze analiza na poziomie pikseli. Przesyłanie obrazu do detektora obrazu sztucznej inteligencji, który działa na zawartości wizualnej zamiast atrybutów pliku. Funkcja detekcji obrazu sztucznej inteligencji NotGPT analizuje strukturę pikseli przesłanych obrazów, aby zidentyfikować cechy wizualne wygenerowane przez sztuczną inteligencję, tworząc wynik prawdopodobieństwa na podstawie tego, jak obraz faktycznie wygląda, zamiast tego, co mówią jego metadane obrazu sztucznej inteligencji. To jest weryfikacja, która daje znaczące wyniki, gdy metadane są nieobecne lub usunięte. W przypadku obrazów, w których formalne ustalenie ma znaczenie, weryfikacja krzyżowa wyników z wielu narzędzi detekcji i udokumentowanie metodologii — jakie narzędzia zostały użyte, jakie ustawienia, jakie wyniki — to standardowa praktyka w profesjonalnych przepływach pracy weryfikacji faktów. Wynik "prawdopodobnie wygenerowany przez sztuczną inteligencję" z analizy na poziomie pikseli na obrazie bez metadanych jest znaczący; wynik "nie znaleziono metadanych obrazu sztucznej inteligencji" z weryfikacji tylko metadanych nie jest. Dwa rodzaje weryfikacji odpowiadają różnym pytaniom, a pytanie na poziomie pikseli to pytanie, które pozostaje ważne niezależnie od tego, czy ktoś używał czy nie narzędzia do usuwania metadanych pikseli sztucznej inteligencji.

1. Weryfikuj metadane pliku najpierw za pomocą czytnika zgodnego z C2PA — poświadczenia zawartości obecne deklarujące generowanie przez sztuczną inteligencję to szybkie, ostateczne ustalenie
2. Traktuj metadane nieobecne lub usunięte jako neutralne ustalenie, a nie negatywne — obrazy bez metadanych mogą nadal być generowane przez sztuczną inteligencję
3. Uruchom detekcję obrazu sztucznej inteligencji na poziomie pikseli niezależnie od statusu metadanych — to jest analiza, która nie jest narażona na narzędzia do usuwania metadanych
4. Weryfikuj krzyżowo wyniki z wielu narzędzi detekcji, gdy ustalenie jest ważne, i udokumentuj nazwy i wersje narzędzi
5. W przypadku formalnych sporów lub decyzji publikacyjnych wyraźnie opisz swoją metodologię weryfikacji — czytelnicy i recenzenci mogą ocenić proces, a nie tylko wniosek