Deteksi konten deepfake, seperti video pidato Presiden Joko Widodo dalam bahasa Mandarin, dapat dilakukan dengan berbagai teknik, termasuk watermark. Damon Hakim, Managing Partner Red Asia, sebuah perusahaan teknologi berbasis AI, menjelaskan bahwa dengan perkembangan teknologi AI, masyarakat perlu lebih waspada saat menerima informasi, baik berupa teks, gambar, suara, atau video.

"Tips untuk pengguna adalah memastikan bahwa apa yang mereka konsumsi online, baik itu konten deepfake atau bukan, haruslah dilihat dengan kritis, karena sumbernya mungkin tidak selalu jelas," kata Damon saat peluncuran tiga layanan AI redAI for Indonesia pada Rabu (1/11).

Damon menekankan perlunya masyarakat memiliki filter pribadi untuk memastikan mereka tidak hanya menerima begitu saja informasi yang mereka temui di platform online, terutama jika sumbernya tidak teridentifikasi dengan jelas. Konten yang berasal dari pejabat publik biasanya tersedia di media sosial resmi atau di laporkan oleh media massa.

Di sisi lain, Damon juga mengakui bahwa kemajuan teknologi memiliki sisi negatifnya. Oleh karena itu, dia mendesak masyarakat untuk lebih kritis terhadap konten yang sedang ramai di media sosial. Menurutnya, teknologi seperti pisau yang bisa digunakan dengan benar atau salah tergantung pada penggunaannya.

Sebelumnya, Kementerian Komunikasi dan Informatika menyatakan bahwa video Jokowi berbicara dalam bahasa Mandarin adalah hasil teknologi deepfake, yang merupakan disinformasi. Istilah "deepfake" merujuk pada teknologi AI yang digunakan untuk membuat konten palsu dari orang asli.

Penyedia teknologi AI, termasuk OpenAI, Alphabet (Google), Meta, Amazon, dan Microsoft, berkomitmen untuk menggunakan tanda air atau watermark pada konten yang dihasilkan oleh AI. Tindakan ini, meskipun menjanjikan, masih memerlukan kerja keras bersama.

Panji Wasmana, National Technology Officer Microsoft Indonesia, menyatakan bahwa perusahaan telah mulai menerapkan tanda air pada platform AI mereka. Ini dilakukan secara bertahap, termasuk pada produk seperti Microsoft Designer yang menggunakan algoritma dari OpenAI, Dall-e.

Tanda air dapat berupa gambar eksplisit atau informasi metadata yang disematkan pada file. Microsoft juga berencana menerapkan watermark pada konten audio dan video mereka untuk meningkatkan keamanan dan kualitas konten yang dihasilkan oleh AI.