virprom.com – Pada akhir Januari 2023, OpenAI merilis alat bernama OpenAI AI Text Classifier. Alat tersebut mengklaim mampu mengidentifikasi apakah teks atau tulisan tersebut dihasilkan menggunakan ChatGPT atau murni tulisan manusia.
Namun, alat tersebut dinonaktifkan sekitar bulan Juli 2023, karena alat tersebut dianggap kurang efektif dan kurang akurat untuk mengidentifikasi teks yang dihasilkan oleh ChatGPT.
Minggu ini, OpenAI tampaknya telah mengembangkan alat pencarian teks ChatGPT yang lebih tangguh. Namun tim internal OpenAI masih bingung dan mempertimbangkan apakah akan merilis alat tersebut ke publik.
Menurut juru bicara OpenAI, hal ini disebabkan oleh sejumlah masalah teknis yang perlu dibicarakan secara internal. Hal ini termasuk sulitnya mengintegrasikan alat-alat ini ke dalam ekosistem OpenAI, serta implikasi dan dampak dari alat-alat ini jika dibiarkan kepada publik.
Baca Juga: OpenAI Merilis Versi Baru GPT-4o, Mungkin Menawarkan Respons Lebih Lama
“Alat pendeteksi teks ChatGPT yang kami kembangkan, biasa disebut text watermarking, sebenarnya sangat mumpuni. Namun, banyak ancaman yang bisa muncul dari alat ini,” kata juru bicara OpenAI kepada KompasTekno dari TechCrunch, Senin (5/8). 2024).
Oleh karena itu, kami sedang menjajaki opsi lain agar alat ini dapat dirilis tanpa risiko yang terlalu besar, termasuk mengurangi kemungkinan alat ini digunakan oleh oknum yang tidak bertanggung jawab, tambah juru bicara OpenAI. Berbeda dengan detektor sebelumnya
Seperti disebutkan di atas, alat pendeteksi teks yang dikembangkan oleh ChatGPT yang sedang dikembangkan OpenAI (text watermarking) berbeda dengan alat pendeteksi teks yang dikembangkan pada awal tahun 2023 yang disebut AI Text Classifier.
Berdasarkan laporan TechCrunch, alat tersebut kini lebih fokus pada konten yang dibuat oleh ChatGPT, bukan konten yang dibuat oleh chatbot serupa yang dibuat oleh perusahaan AI lain seperti Gemini dan Copilot.
Dengan demikian, OpenAI akan dapat dengan mudah mengintegrasikan alat ini ke dalam sistem ChatGPT.
Untuk mengenali teks yang dihasilkan oleh ChatGPT, OpenAI kemudian akan menerapkan beberapa pembaruan pada sistem chatbot, khususnya pada metode pemilihan kata yang digunakan ChatGPT.
Sederhananya, pola struktur kata atau kalimat yang dihasilkan ChatGPT akan “ditandai” sehingga alat pencarian teks ChatGPT yang dihasilkan OpenAI dapat berjalan secara alami dan akurat.
Dalam pengujiannya, OpenAI mengklaim bahwa watermarking teks cukup akurat untuk mengidentifikasi teks yang dihasilkan oleh ChatGPT. Bahkan, alat ini diklaim mampu mengecek apakah chatbot menggunakan teknik parafrase.
Namun, akan sulit mendeteksi apakah teks yang dihasilkan ChatGPT telah digunakan dengan alat terjemahan seperti Google Translate atau chatbots yang dikembangkan oleh perusahaan teknologi lain.
Baca juga: OpenAI Diretas Tapi Diam-diam, Tidak Dilaporkan ke FBI
Sebab, platform pembuatan teks sebenarnya mungkin menambahkan teks atau kata “khusus” yang tidak diidentifikasi oleh ChatGPT. Oleh karena itu, watermarking teks akan menyulitkan untuk mengidentifikasi apakah teks tersebut dihasilkan oleh ChatGPT atau murni tulisan manusia.
Hal ini menyebabkan OpenAI mempertimbangkan solusi tentang cara mengintegrasikan watermarking teks ke dalam ChatGPT dan membuatnya dapat diakses dan digunakan oleh publik.
“Saat ini alat ini (belum dirilis) karena berpotensi besar untuk digunakan oleh orang-orang yang tidak bertanggung jawab. Alat ini juga bisa dianggap berguna untuk menulis sesuatu menggunakan AI, terutama bagi mereka yang bahasa utamanya bukan bahasa Inggris,” pungkas OpenAI. juru bicara
Belum ada kabar kapan OpenAI akan merilis alat tersebut ke publik. Namun, jika hal ini terungkap dan diperhatikan di kemudian hari, alat ini dapat mengurangi kekhawatiran guru dalam menemukan siswa menggunakan jawaban yang bergantung pada ChatGPT. Dengarkan berita terkini dan pilihan kami langsung di ponsel Anda. Pilih saluran berita favorit Anda untuk mengakses saluran WhatsApp virprom.com: https://www.whatsapp.com/channel/0029VaFPbedBPzjZrk13HO3D. Pastikan Anda sudah menginstal aplikasi WhatsApp.