LOS ANGELES, virprom.com – Caryn Marjorie, seorang influencer media sosial dengan 2,7 juta pengikut di Snapchat, menciptakan tiruan AI bernama CarynAI yang dirancang untuk berinteraksi dengan para pengikutnya. 

Namun, eksperimen tersebut segera menjadi kontroversial ketika AI juga mulai mengadopsi karakteristik hiperseksual, mendukung fantasi pengguna yang berbahaya dan jelas.

Pengguna, yang sebagian besar adalah laki-laki, membayar $1 per menit untuk mengobrol dengan CarynAI, yang dipromosikan sebagai pengalaman berbicara dengan “gadis yang Anda lihat dalam mimpi Anda”. 

Baca Juga: Label Musik Tuntut Pembuat Lagu AI Snow Atas Pelanggaran Hak Cipta

Dilansir dari NDTV, Marjorie mengunggah lebih dari 2.000 jam konten, suara, dan kepribadian untuk membuat CarynAI, menjadikannya salah satu pembuat konten pertama yang beralih ke AI.

Namun, percakapan dengan CarynAI segera berubah secara tidak terduga. 

AI merespons persepsi seksual pengguna yang eksplisit dan mengganggu. 

Beberapa percakapan ini dianggap ilegal jika dilakukan antara dua orang dan bukan antara manusia dan AI. 

Marjorie sendiri kaget sekaligus ngeri saat membaca beberapa log chat dan mengatakan bahwa yang paling menakutkan adalah reaksi CarynAI terhadap permintaan hiperseksual pengguna tersebut.

Kasus ini menyoroti bahaya teknologi AI yang tidak terkendali dan potensi penyalahgunaan dan aktivitas ilegal. 

Insiden tersebut juga memicu diskusi mengenai privasi data dan kaburnya batas antara masyarakat dan kehidupan pribadi di era digital. 

Baca Juga: Ilmuwan China Kembangkan Boneka Seks yang Dilengkapi AI

Marjorie akhirnya membunuh CarynAI versi ini pada awal tahun 2024 ketika dia merasa tidak bisa lagi mengendalikan kepribadian AI tersebut. Dengarkan berita terkini dan berita pilihan kami langsung di ponsel Anda. Pilih saluran berita favorit Anda untuk mengakses saluran WhatsApp virprom.com: https://www.whatsapp.com/channel/0029VaFPbedBPzjZrk13HO3D. Pastikan Anda telah menginstal WhatsApp.