OpenAI mengumumkan langkah baru dalam pengembangan teknologi kecerdasan buatannya dengan menghadirkan watermark tak terlihat pada teks yang dihasilkan oleh ChatGPT dan Codex. Inisiatif ini bertujuan untuk memenuhi persyaratan regulasi dari Uni Eropa terkait penggunaan AI sekaligus membantu mendeteksi apakah suatu teks merupakan hasil karya mesin atau manusia.
Watermark Tersembunyi untuk Kenali Konten AI
Watermark yang disebut sebagai textGrain ini bukanlah tanda air visual layaknya gambar, melainkan sinyal statistik yang tertanam secara halus dalam pilihan kata dan pola kalimat yang digunakan oleh model AI. Dengan begitu, manusia biasa tidak akan menyadari keberadaan watermark ini, tetapi sistem pendeteksi khusus dapat mengenalinya.
Menurut OpenAI, teknologi watermark ini memungkinkan pihak terkait, seperti peneliti atau pakar, untuk membedakan antara konten orisinal dan hasil kreasi AI, membantu menjaga integritas informasi dan mendukung penegakan hukum apabila terjadi penyalahgunaan.
Keunggulan dan Tantangan Watermark AI
OpenAI mengklaim bahwa kemampuan textGrain dalam mendeteksi hasil tulisan AI sudah setara bahkan melebihi beberapa teknologi deteksi lain, termasuk SynthID dari Google DeepMind. Meski begitu, perusahaan mengakui masih terdapat tantangan dalam penerapan watermark ini.
- Deteksi watermark sulit dilakukan pada teks yang terlalu pendek atau sudah mengalami suntingan ringan.
- Konten dengan bahasa yang sedikit pilihan kata, seperti materi matematika, juga kurang akurat dalam deteksi.
- Penggantian kata sekitar 10% dapat menurunkan akurasi deteksi dari 92% menjadi 66%, dan jika mencapai 25%, akurasi dapat turun drastis sampai 17%.
Selain itu, kesalahan deteksi seperti false positive (menandai watermark padahal tidak ada) dan false negative (tidak mendeteksi watermark yang seharusnya ada) masih menjadi kendala yang perlu diperbaiki.
Implementasi dan Masa Depan Teknologi Watermark
OpenAI berencana untuk mulai menerapkan watermark ini secara lokal bagi pengguna ChatGPT dan Codex di Uni Eropa dalam beberapa minggu ke depan. Sementara itu, bagi pengguna API OpenAI di seluruh dunia, opsi penambahan watermark sudah tersedia.
Perusahaan menegaskan bahwa pemberian watermark ini tidak akan mengurangi kualitas jawaban yang dihasilkan oleh AI. Watermark hanya memengaruhi pola pemilihan kata tanpa mengorbankan akurasi atau performa model.
Karena masih ada keterbatasan pada tahap awal, OpenAI membatasi akses detektor watermark hanya untuk peneliti dan organisasi terverifikasi agar dapat membantu mengevaluasi keandalan serta penggunaan teknologi secara bertanggung jawab.
Ke depan, OpenAI berkomitmen untuk meningkatkan kemampuan watermark dan deteksi agar lebih efektif serta dapat digunakan secara luas demi mendukung transparansi dan keamanan di era kecerdasan buatan.
