Detektor Watermark AI: Apa yang Dapat Ditemukannya, Apa yang Dapat Dibuktikannya, dan Cara Menggunakannya dengan Bertanggung Jawab

Apa Itu Detektor Watermark AI?

Detektor watermark AI adalah alat atau metode apa pun yang dirancang untuk mengidentifikasi sinyal yang disengaja atau tidak sengaja tertanam dalam konten yang dibuat AI pada saat pembuatan. Kata "watermark" mencakup tiga kategori teknis yang berbeda yang sering disamakan. Tanda asal pada tingkat file – paling menonjol Kredensial Konten C2PA – adalah sertifikat yang ditandatangani secara kriptografi yang disimpan dalam wadah metadata file gambar atau video. Mereka menyatakan kepengarangan dan mencatat alat AI mana yang menghasilkan konten, tetapi mereka berada di dalam bungkus file dan dapat dihapus oleh editor metadata standar apa pun. Watermark tingkat piksel, dengan SynthID dari Google DeepMind sebagai contoh yang paling dikenal, menyandikan sinyal yang dapat dideteksi langsung ke nilai piksel gambar selama pembuatan. Tidak seperti metadata file, sinyal ini bertahan dari konversi format, kompresi JPEG, dan tangkapan layar karena tersematkan dalam konten gambar aktual daripada wadah file. Watermark teks bekerja dengan cara yang berbeda: karena teks tidak dapat menyematkan sinyal dalam nilai piksel, watermarking teks bekerja dengan mempengaruhi distribusi probabilitas pilihan kata selama pembuatan. Ketika model seperti model bahasa besar menghasilkan token, model itu dapat dibiaskan untuk sedikit mendukung token dari daftar kosakata "hijau" yang ditunjuk. Pada ratusan token, bias ini menciptakan pola yang dapat dideteksi secara statistik – teks mendapat skor lebih tinggi dari yang diharapkan pada frekuensi token hijau. Detektor watermark AI untuk teks memeriksa apakah bagian menunjukkan semacam bias distribusif ini. Ketiga pendekatan memiliki tujuan yang sama – memungkinkan pihak ketiga untuk memverifikasi asal AI setelah fakta – tetapi mereka berbeda secara dramatis dalam apa yang bertahan dari pengeditan, terjemahan, atau upaya penghapusan yang disengaja.

1. Asal pada tingkat file (C2PA): sertifikat kriptografi dalam metadata file gambar atau video; mengidentifikasi alat AI yang menghasilkan konten; dapat dihapus secara sepele dengan editor EXIF apa pun
2. Watermark tingkat piksel (SynthID): sinyal yang dikodekan dalam nilai piksel aktual selama pembuatan; bertahan dari konversi format, kompresi, dan tangkapan layar; tidak dapat dihapus tanpa merusak gambar secara signifikan
3. Watermark teks (statistik): bias dalam probabilitas pemilihan token selama pembuatan menciptakan tanda tangan distribusif yang terukur; bertahan dari pengeditan minor tetapi merosot dengan parafrase berat atau terjemahan
4. Tanda tangan intrinsik model: artefak tidak disengaja dari arsitektur pembuatan itu sendiri – detektor AI yang tidak bergantung pada watermark menganalisis ini sebagai gantinya; hadir dalam semua keluaran AI terlepas dari apakah watermarking diaktifkan

Watermark Teks vs. Watermark Gambar: Apa Perbedaannya?

Mekanika watermarking teks dan gambar berbeda begitu signifikan sehingga memahami yang satu tidak secara otomatis mempersiapkan Anda untuk memberi alasan tentang yang lain. Untuk gambar, masalah menyematkan sinyal tak terlihat adalah cabang steganografi digital yang telah dipelajari dengan baik. Peneliti dapat memodifikasi bit paling signifikan dari nilai piksel, mengubah komponen frekuensi menggunakan transformasi kosinus diskrit, atau – seperti yang dilakukan SynthID – menyesuaikan intensitas relatif piksel dalam patch lokal dengan cara yang tidak terlihat oleh penglihatan manusia tetapi dapat dideteksi secara statistik oleh detektor watermark terlatih. Karena sinyal didistribusikan secara redundan di jutaan piksel, sinyal itu bertahan melalui jenis manipulasi yang mungkin dialami gambar khas: pengubahan ukuran, koreksi warna, pengodean ulang JPEG pada level kualitas yang masuk akal, dan bahkan pencetakan serta pemindaian ulang. Ketahanan SynthID terhadap tangkapan layar secara khusus patut diperhatikan: ketika Anda menangkap layar gambar yang diberi watermark, Anda menangkap nilai pikselnya pada dasarnya tidak berubah, sehingga watermark bertahan. Untuk teks, tantangannya lebih berat. Teks bersifat diskrit: tidak ada nilai tingkat karakter individual untuk diubah dengan halus, dan setiap perubahan yang mengubah pola statistik juga mengubah makna. Pendekatan yang paling kredibel secara teknis untuk watermarking teks – pelopor dalam pekerjaan akademis dari UC Santa Barbara dan kemudian dirujuk dalam pernyataan publik Google tentang produk pembuatan teksnya – menyisipkan ketergantungan tersembunyi ke dalam proses pengambilan sampel token. Setiap kali model memilih kata, fungsi hash pribadi menentukan apakah kata itu berada di himpunan "hijau" atau "merah" untuk posisi itu dalam urutan. Model dibiaskan untuk memilih token hijau. Detektor dengan akses ke fungsi hash yang sama kemudian dapat menilai bagian mana pun untuk proporsi token hijaunya dan membandingkannya dengan distribusi yang diharapkan untuk teks tanpa watermark. Skor token hijau yang tinggi menunjukkan teks mungkin diberi watermark; skor di dekat baseline yang diharapkan menunjukkan itu mungkin tidak. Masalah praktisnya adalah bahwa deteksi ini hanya berfungsi untuk teks yang dihasilkan oleh model yang memiliki watermarking diaktifkan – dan sebagian besar LLM yang dapat diakses publik, termasuk versi API dari GPT-4 dan Claude, saat ini tidak menerapkan watermark teks ke output pengguna secara default.

"Watermarking keluaran model bahasa secara teknis layak tetapi memerlukan setiap penyedia besar untuk mengimplementasikannya secara konsisten – masalah koordinasi yang belum diselesaikan dalam skala besar." — Soheil Feizi, Universitas Maryland, 2023

Apa yang Sebenarnya Dapat Dibuktikan Watermark AI?

Ini adalah pertanyaan yang paling sering diabaikan dalam cakupan watermarking AI. Watermark, ketika terdeteksi, memberikan bukti bahwa sistem AI tertentu menghasilkan konten pada saat pembuatan. Ini tidak membuktikan bahwa konten itu berbahaya, diplagiat, atau tidak pantas. Ini tidak membuktikan bahwa orang yang mengirimkan konten menggunakan AI dengan cara yang melanggar aturan tertentu. Dan yang penting, ketiadaan watermark yang dapat dideteksi tidak membuktikan bahwa konten ditulis atau dibuat oleh manusia. Ada beberapa alasan mengapa ketiadaan tidak membersihkan nama seseorang. Pertama, sebagian besar konten yang dibuat AI yang saat ini beredar dihasilkan oleh sistem yang tidak pernah menerapkan watermarking atau tidak memilikinya aktif. Seorang siswa yang menggunakan GPT-4 melalui antarmuka ChatGPT standar, atau pembuat gambar tanpa adopsi C2PA, menghasilkan konten tanpa watermark – karena alat-alat itu tidak memberi watermark pada keluaran mereka. Kedua, watermark dapat dihapus. Metadata tingkat file dihapus oleh alat standar. Watermark teks merosot di bawah parafrase. Bahkan watermark tingkat piksel tidak dijamin bertahan dari pemrosesan musuh yang dirancang khusus untuk mengalahkannya. Ketiga, beberapa alat menambahkan watermark palsu ke konten yang dibuat manusia, baik disengaja untuk membingungkan detektor atau sebagai artefak dari pipeline pemrosesan. Watermark yang terdeteksi oleh karena itu bermakna: itu adalah bukti positif bahwa sistem AI tertentu terlibat dalam menghasilkan konten. Tidak ada watermark tidak informatif: itu berarti tidak ada sistem watermarking yang digunakan, watermark dihapus, atau konten benar-benar dibuat oleh manusia. Ini adalah tiga situasi berbeda dengan implikasi yang sangat berbeda, dan hasil detektor watermark AI sendiri tidak dapat membedakan di antara mereka.

Bisakah Watermark AI Dihapus atau Dikalahkan?

Ketahanan watermark sangat bergantung pada jenis watermark dan tingkat kecanggihan upaya penghapusan. Kredensial C2PA tingkat file dapat dihapus dalam beberapa detik oleh siapa pun yang memiliki pemahaman dasar tentang metadata gambar. Klik kanan pada gambar, hapus data EXIF dengan alat gratis, konversi antar format tanpa opsi "pertahankan metadata", atau cukup ambil tangkapan layar – salah satu dari ini menghasilkan file tanpa kredensial C2PA. Ini bukan cacat dalam desain C2PA; standar dibangun sebagai rantai asal untuk media autentik, bukan sertifikat penggunaan AI yang tahan manipulasi. Ketika kredensial C2PA ada, kehadiran mereka bermakna. Ketika mereka tidak ada, ketiadaan itu tidak membuktikan apa pun tentang asal. Watermark teks lebih tahan daripada metadata file tetapi lebih rapuh daripada penyematan tingkat piksel. Studi akademis tentang watermark berbasis distribusi token telah menemukan bahwa parafrase berat, terjemahan ke bahasa lain dan kembali, atau mencampur teks berfitur air dengan bagian tanpa fitur air dapat semuanya mengurangi kepercayaan deteksi secara signifikan. Analisis 2023 dari Universitas Maryland menemukan bahwa serangan parafrase mengurangi akurasi deteksi dari hampir-pasti menjadi hanya sedikit lebih baik dari peluang untuk beberapa skema watermarking. Yang penting, parafrase efektif sudah memerlukan pengeditan yang cukup sehingga keluaran berbeda secara substansial dari apa yang dihasilkan model – jadi serangan memiliki biaya. Watermark tingkat piksel seperti SynthID adalah yang paling tahan dari tiga kategori. Mereka dirancang khusus untuk bertahan dari jenis manipulasi yang biasa terjadi selama distribusi gambar: pengubahan ukuran, kompresi, grading warna, dan konversi format. Menghapus SynthID dari gambar tanpa merusak kualitas visual ke titik yang mengalahkan tujuan gambar adalah, menurut penelitian yang dipublikasikan Google DeepMind, secara komputasi sulit. Artinya, tidak ada watermark yang tidak bersyarat tahan. Pengambilan sampel ulang yang cukup agresif, penambahan kebisingan, atau penggunaan alat gangguan musuh yang dirancang khusus untuk mengalahkan watermark piksel semuanya dapat mengurangi kepercayaan deteksi, meskipun biasanya dengan mengorbankan kualitas gambar.

1. Metadata file C2PA: dapat dihapus dalam beberapa detik dengan editor EXIF apa pun, konversi format, atau tangkapan layar; ketiadaan kredensial tidak membuktikan apa pun tentang asal AI
2. Watermark distribusi token teks: merosot secara signifikan di bawah parafrase berat (sekitar 50% pengurangan kepercayaan deteksi dilaporkan dalam studi akademis); bertahan dari pengeditan ringan dan perubahan kata minor
3. Watermark tingkat piksel (SynthID): tahan terhadap kompresi JPEG, pengubahan ukuran, grading warna, dan tangkapan layar; kekalahan memerlukan pemrosesan musuh yang biasanya merusak kualitas visual
4. Serangan terjemahan pada teks: mengonversi teks berfitur air ke bahasa lain dan kembali mengurangi sinyal watermark secara substansial karena distribusi kosakata disetel ulang
5. Gangguan piksel musuh: alat khusus dapat melemahkan bahkan watermark gaya SynthID, tetapi pemrosesan secara komputasi mahal dan sering memperkenalkan artefak yang terlihat

Apa yang Terlewatkan Detektor Watermark AI?

Detektor watermark AI apa pun memiliki masalah cakupan yang sulit: itu hanya dapat menemukan sinyal yang disematkan oleh sistem yang diketahuinya dan yang tidak telah dihancurkan setelahnya. Ini menciptakan tiga celah sistematis yang akan dihadapi pengguna yang hanya mengandalkan deteksi watermark. Celah pertama adalah cakupan generator. Sebagian besar teks AI dibuat oleh model – versi publik ChatGPT, Claude, Gemini, dan lainnya – yang saat ini tidak menyematkan watermark teks dalam keluaran standar mereka. Detektor watermark AI yang dirancang di sekitar analisis distribusi token akan melaporkan tidak ada watermark pada sebagian besar teks yang dibuat AI di alam liar, bukan karena teks ditulis manusia, tetapi karena itu berasal dari sistem yang tidak pernah menerapkan watermarking. Celah kedua adalah celah pengeditan pasca-pembuatan. Bahkan untuk sistem yang memberi watermark pada keluaran mereka, pengeditan substansial oleh manusia setelahnya akan merusak sinyal watermark. Seorang siswa yang meminta AI untuk draf dan kemudian menulis ulang dua pertiga darinya dengan tangan mungkin berakhir dengan teks yang lulus deteksi watermark – karena token berfitur air sekarang adalah minoritas kecil dalam bagian yang lebih besar. Detektor watermark AI yang mengukur bias distribusif dalam teks lengkap akan melihat sinyal yang diencerkan. Ini bukan cacat dalam pendekatan deteksi; itu adalah pembacaan yang akurat dari konten, yang benar-benar lebih banyak diedit oleh manusia daripada dibuat AI pada saat itu. Celah ketiga adalah konten AI yang diproduksi oleh model yang dengan sengaja tidak memberi watermark pada keluaran. Model open source yang diunduh dan dijalankan secara lokal – LLaMA, Mistral, Qwen, dan lainnya – menghasilkan teks dan gambar tanpa watermark, karena pengguna mengontrol kesimpulan dan platform tidak dapat memberlakukan penyisipan watermark. Setiap konten yang dihasilkan oleh alat-alat ini tidak akan memiliki watermark, terlepas dari berapa banyak AI yang terlibat. Celah-celah ini adalah alasan mengapa deteksi watermark AI paling berguna sebagai satu lapisan dari proses verifikasi sinyal-multi, bukan sebagai metode verifikasi mandiri.

Cara Memverifikasi Konten AI dengan Bertanggung Jawab Menggunakan Deteksi Watermark

Penggunaan yang bertanggung jawab dari detektor watermark AI dimulai dengan memahami apa yang benar-benar dijawab oleh alat tersebut. Pemeriksaan watermark dan pemeriksaan asal AI bukan pertanyaan yang sama, dan membingungkan keduanya menghasilkan kepercayaan palsu dan kesimpulan yang tidak adil. Untuk verifikasi gambar, alur kerja praktis terlihat seperti ini: periksa terlebih dahulu Kredensial Konten C2PA menggunakan pembaca yang kompatibel dengan C2PA. Sebagian besar aplikasi foto standar tidak menampilkan data C2PA, jadi Anda memerlukan alat yang dirancang khusus untuk membacanya. Alat web Content Authenticity Adobe, atau penampil apa pun yang menyadari C2PA, dapat menampilkan kredensial ini ketika ada. Jika kredensial ada dan menyatakan pembuatan AI, itu adalah penemuan positif yang kuat. Jika tidak ada kredensial yang ditemukan, lanjutkan ke detektor gambar AI tingkat piksel – langkah yang mengukur tampilan gambar daripada apa yang dikatakan wadah filenya. Untuk verifikasi teks, pemeriksaan berbasis watermark saat ini dibatasi oleh celah adopsi yang dijelaskan di atas. Sampai penyedia utama menerapkan watermarking teks yang konsisten, pendekatan yang lebih andal adalah menggunakan detektor yang mengukur sifat statistik teks itu sendiri – kebingungan, ledakan, dan pola distribusif yang berbeda antara tulisan manusia dan AI – daripada mencari watermark yang disengaja disematkan. Detektor sinyal intrinsik ini beroperasi terlepas dari apakah sistem generator menerapkan watermarking. Ketika hasil verifikasi akan digunakan untuk membuat keputusan yang konsekuen – apakah akademis, hukum, profesional, atau editorial – dokumentasikan metodologi Anda secara eksplisit. Alat apa yang Anda gunakan? Versi apa? Hasil apa yang dikembalikannya? Ketergantungan satu alat berdasarkan pemeriksaan watermark atau detektor statistik bukan praktik terbaik untuk penentuan risiko tinggi. Referensi silang setidaknya dua alat independen mengurangi dampak dari tingkat positif palsu atau negatif palsu dari alat apa pun.

1. Untuk gambar, mulai dengan pembaca yang kompatibel dengan C2PA untuk memeriksa Kredensial Konten yang ditandatangani – kredensial yang ada dengan menyatakan pembuatan AI adalah penemuan yang cepat dan pasti
2. Perlakukan kredensial yang tidak ada sebagai netral – lanjutkan ke deteksi gambar AI tingkat piksel terlepas dari status metadata
3. Untuk teks, gunakan deteksi teks AI statistik (analisis kebingungan/ledakan) sebagai pemeriksaan utama – lebih andal daripada deteksi watermark mengingat celah adopsi saat ini
4. Verifikasi silang setidaknya dua alat independen sebelum menarik kesimpulan dalam konteks berisiko tinggi
5. Dokumentasikan metodologi verifikasi Anda: nama alat, versi, hasil, dan tanggal – ini mendukung pengambilan keputusan yang dapat dipertahankan
6. Terapkan kepercayaan yang proporsional: positif yang kuat di beberapa pendekatan deteksi menjamin kepercayaan yang lebih tinggi daripada hasil ambang batas dari satu alat

Standar Watermark, Adopsi, dan Apa yang Sebenarnya Diterapkan Hari Ini

Celah antara apa yang dapat dicapai watermarking AI secara teoritis dan apa yang saat ini diterapkan dalam praktik cukup signifikan untuk mempengaruhi cara Anda menafsirkan hasil deteksi. Di sisi gambar, C2PA memiliki momentum nyata. Adobe Firefly, DALL-E 3, dan alat gambar AI Microsoft semua menyematkan Kredensial Konten C2PA secara default. Inisiatif Keaslian Konten memiliki komitmen dari organisasi berita besar, perusahaan platform, dan produsen perangkat keras. Produsen kamera termasuk Leica dan Sony telah mengirimkan penandatanganan C2PA tingkat perangkat keras sehingga foto ditandatangani saat pengambilan, bukan setelahnya. SynthID diterapkan dalam alat pembuatan gambar Gemini Google, Google Imagen, dan telah berkembang ke video dan audio. Di sisi teks, kemajuannya lebih lambat. OpenAI mengeksplorasi watermarking teks secara internal dan dilaporkan memutuskan untuk tidak menerapkannya dalam produk konsumen, sebagian karena kerapuhan watermark teks di bawah parafrase dan kekhawatiran bahwa penulis yang kurang beruntung – penutur non-asli, penulis dengan disleksia, mereka yang membutuhkan alat pengeditan asistensi – mungkin ditandai secara tidak proporsional. Google telah menyebutkan perluasan SynthID ke teks dalam beberapa konteks penelitian tetapi belum membuat deteksi watermark teks yang menghadap konsumen tersedia luas. Hasil bersih adalah bahwa detektor watermark AI yang memeriksa sinyal C2PA atau SynthID akan menangkap konten dari platform komersial besar yang telah mengadopsi standar, dan akan melewatkan konten dari model open source, platform yang belum mengadopsi watermarking, dan konten apa pun di mana watermark telah dihapus atau rusak. Ini adalah realitas cakupan, bukan kegagalan konsep watermarking – adopsi adalah proses yang berkelanjutan, dan alat yang diterapkan hari ini mencerminkan di mana industri berada sekarang, bukan ke mana standar ini akan menuju.

"C2PA menyediakan fondasi untuk web tempat media dapat membawa asal yang diverifikasi – tetapi nilainya diskalakan dengan berapa banyak kreator dan platform yang berpartisipasi." — Content Authenticity Initiative, 2024

Bagaimana NotGPT Membantu dengan Verifikasi Watermark AI dan Asal

NotGPT menawarkan dua alat deteksi yang relevan untuk verifikasi asal AI yang melengkapi pendekatan berbasis watermark dengan menganalisis sifat intrinsik konten daripada mengandalkan sinyal tertanam saja. Alat deteksi Gambar AI menganalisis gambar yang diunggah pada tingkat piksel, memeriksa karakteristik visual yang membedakan gambar yang dibuat AI dari fotografi – keteraturan tekstur, tanda tangan domain frekuensi, dan pola konsistensi semantik. Analisis ini berjalan terlepas dari ada atau dihapusnya watermark, menjadikannya efektif untuk gambar dari platform yang tidak pernah menyematkan watermark dan untuk gambar tempat metadata telah dihapus. Alat deteksi Teks AI mengukur kebingungan, ledakan, dan pola distribusif dalam teks yang disampaikan untuk memperkirakan kemungkinan bagian tersebut dibuat AI. Ini adalah pendekatan yang menutupi celah adopsi dalam watermarking teks: daripada mencari sinyal yang hanya ditanamkan beberapa generator, ia membaca jejak jari statistik yang semua LLM saat ini tinggalkan dalam keluaran mereka dalam derajat yang bervariasi. Menggunakan NotGPT bersama pemeriksaan watermark khusus – terutama pembaca C2PA untuk gambar – memberi Anda sinyal asal (jika ada) dan sinyal intrinsik (yang ada terlepas dari apakah watermarking digunakan). Tidak ada satu pendekatan pun yang menutupi masalah verifikasi lengkap; bersama-sama, mereka mengatasi secara substansial lebih banyak permukaan deteksi.