Suratkami.com – Jakarta, desainer asal Jerman, Simon Weckert, membuat kemeja Digital Camouflage yang dirancang untuk mengganggu sistem kecerdasan buatan (AI) dalam mendeteksi manusia.
Kemeja tersebut memiliki pola abstrak dengan perpaduan warna hijau, merah muda, dan oranye. Bagi manusia, tampilannya terlihat mencolok dan menyerupai sirip ikan, reptil berwarna unik, kipas lipat tradisional, atau jamur berpendar yang ditumpuk secara simetris.
Namun, pola itu tidak sekadar dibuat untuk menarik perhatian. Weckert merancangnya untuk mengacaukan cara kerja sistem computer vision ketika mengenali ciri-ciri visual pada tubuh manusia.
Cara kerja kemeja Digital Camouflage
Dalam demonstrasi yang ditampilkan melalui akun Instagram pribadinya, sistem AI pada kamera pengawas di Berlin biasanya memberikan label “Person” atau “Manusia” kepada orang yang tertangkap kamera.
Ketika seseorang mengenakan kemeja Digital Camouflage, sistem tersebut tampak gagal memberikan label itu. Weckert menggunakan sistem pendeteksi objek YOLO (You Only Look Once) yang bersifat open source dalam proses pengujiannya.
Pola kemeja dibuat menggunakan teknik adversarial attack. Metode ini memanipulasi tampilan sebuah objek agar sistem AI keliru mengenalinya. Pada Digital Camouflage, pola tersebut mengganggu ciri visual yang biasanya dipakai model AI untuk mendeteksi sosok manusia.
Belum tentu efektif pada semua kamera
Meski demonstrasinya menunjukkan pemakai kemeja dapat luput dari deteksi, Weckert tidak menyatakan bahwa desain tersebut mampu mengecoh seluruh kamera pengawas berbasis AI.
Pengujian hanya menggunakan sistem YOLO generik dan open source, bukan sistem pengawasan pemerintah tertentu. Karena itu, belum ada jaminan kemeja tersebut bekerja pada sistem AI lain.
Kritik terhadap pengawasan berbasis AI
Weckert menegaskan bahwa Digital Camouflage bukan alat untuk menghindari polisi atau menjamin anonimitas pemakainya. Proyek ini merupakan karya seni yang mengkritik semakin luasnya penggunaan teknologi pengawasan berbasis AI di ruang publik.
Melalui kemeja itu, Weckert mempertanyakan seberapa besar kepercayaan manusia terhadap teknologi, terutama ketika sistem pengawasan ternyata dapat dikelabui oleh pola pada selembar kain.
