Kasus tersebut menggambarkan bagaimana konten buatan AI dapat dimanfaatkan untuk membangun situasi yang tampak meyakinkan. Jika keaslian gambar, video, dan suara tidak dapat diperiksa dengan baik, masyarakat maupun organisasi berisiko menjadi sasaran manipulasi informasi.
Komdigi Kaji Pelabelan Konten AI
Untuk mengantisipasi risiko tersebut, sejumlah perusahaan teknologi global mulai mengembangkan sistem autentikasi dan penelusuran asal-usul konten digital melalui metadata. Mekanisme ini dirancang agar informasi mengenai keaslian suatu konten tetap dapat dikenali, termasuk ketika gambar atau materi digital diproses menggunakan AI.
Nezar menjelaskan bahwa pendekatan tersebut dikenal sebagai authentication dan provenance. Keduanya menjadi bagian dari upaya untuk memverifikasi keaslian sekaligus menelusuri asal-usul materi digital.
"Nah ini dikenal sebagai pendekatan untuk authentication dan provenance yang sedang dikerjakan secara global," jelasnya.
Pemerintah Indonesia turut memperhatikan pendekatan tersebut dalam penyusunan kebijakan pelabelan konten AI. Melalui peraturan menteri yang masih dikaji, perusahaan pengembang AI diharapkan memberikan penanda yang menunjukkan keaslian produk digital yang mereka hasilkan.
Penanda tersebut nantinya diharapkan membantu masyarakat mengenali konten hasil rekayasa dan membedakannya dari materi autentik. Dengan demikian, informasi mengenai asal-usul konten dapat menjadi salah satu acuan ketika publik menilai kebenaran suatu materi digital.
"Di Indonesia, Komdigi sedang mengkaji itu untuk membuat peraturan menteri agar setiap perusahaan-perusahaan pengembang AI itu bisa memberikan label tentang otentisitas dari keaslian produk video yang dibuat atau produk digital media yang dihasilkan," tegasnya.