virprom.com – Google telah memperbarui algoritma mesin pencarinya, Google Search, untuk menghilangkan konten gambar palsu, juga dikenal sebagai outright deepfake, yang diproses oleh kecerdasan buatan.
Deepfake adalah kecerdasan buatan (AI) yang digunakan untuk membuat foto, video, atau klip audio palsu yang menyerupai aslinya dan terdengar cukup meyakinkan.
Deepfake dikatakan eksplisit jika menampilkan gambar, video, atau audio seseorang dalam konteks seksual dan didistribusikan ke seluruh web tanpa persetujuan orang sebenarnya. Konten seperti ini bisa membuat marah korban deepfake.
Beberapa perubahan telah diumumkan Google di situs resminya, yang menyederhanakan proses pelaporan dan permintaan penghapusan, selain sistem klasifikasi konten.
Baca Juga: Apple Intelligence AI tampaknya dilatih pada chip buatan Google
Untuk permintaan penghapusan konten, Google sudah memiliki fitur yang memungkinkan pengguna melaporkan konten seksual palsu dan berbahaya, melalui tautan berikut. Kini sistem pelaporan menjadi lebih sederhana.
Setelah konten deepfake yang ditandai AI teridentifikasi, sistem pencarian Google akan memfilter semua hasil pencarian serupa. Selain itu, sistem Google akan memindai dan menghapus duplikat gambar seksual tersebut.
“Perlindungan ini telah terbukti efektif dalam menangani gambar non-konsensual, dan kami kini telah membangun kemampuan yang sama untuk menangani gambar seksual palsu,” tulis Emma Higham, manajer produk Google, di blog resmi Google.
“Upaya ini dimaksudkan untuk memberikan ketenangan pikiran kepada masyarakat, terutama jika mereka khawatir akan muncul konten serupa di masa mendatang,” tambahnya.
Baca juga: 15 Juta Orang Kehilangan Kata Sandi Karena Google Chrome
Selain memperbarui proses pelaporan dan menghapus konten deepfake, Google juga memperbarui sistem klasifikasi kuerinya di Google Penelusuran.
Kini, Google akan menurunkan situs di mesin pencarinya jika sebuah situs berulang kali berisi konten AI palsu tanpa izin.
Semakin rendah peringkatnya, maka semakin rendah pula posisi situs tersebut di pencarian Google sehingga semakin sulit ditemukan.
“Pendekatan ini (menurunkan peringkat situs) berhasil untuk jenis konten berbahaya lainnya, dan pengujian kami menunjukkan bahwa pendekatan ini akan menjadi cara yang berharga untuk mengurangi konten eksplisit dalam hasil pencarian,” kata Higham.
Pengguna juga tidak bisa dengan sengaja mencari konten AI deepfake yang berkaitan dengan orang atau selebriti tertentu. Pasalnya Google berusaha menampilkan konten non-seksual berkualitas tinggi seperti artikel berita terkait orang terkenal.
Google mencoba membedakan antara konten seksual yang dibuat dengan persetujuan, seperti video pornografi, dan konten seksual yang diproses oleh AI yang tidak bersifat konsensual.
Google mengatakan upaya diskriminasi ini menghadirkan tantangan teknis bagi mesin pencari, yang berarti upaya tersebut mungkin tidak sepenuhnya akurat atau efektif dalam menyaring konten non-konsensual dari AI.