OpenAI mengonfirmasi pengembangan teknologi yang bisa mendeteksi teks buatan ChatGPT. Siswa yang sering meminta ChatGPT untuk mengerjakan tugas sekolahnya siap-siapa ketahuan.
Keberadaan alat deteksi ini pertama kali dilaporkan oleh Wall Street Journal. Dalam keterangan resminya, OpenAI mengonfirmasi laporan soal alat tersebut yang bekerja dengan menambahkan watermark di teks yang dihasilkan ChatGPT.
Namun OpenAI masih pikir-pikir untuk meluncurkan alat tersebut. Perusahaan besutan Sam Altman itu akan mengambil pendekatan yang hati-hati karena alat ini kemungkinan memiliki dampak yang besar terhadap ekosistem AI secara luas.
"Metode pemberian watermark pada teks yang kami kembangkan secara teknis menjanjikan, tapi memiliki risiko penting yang kami pertimbangkan sembari kami meneliti alternatifnya," kata OpenAI dalam keterangan resminya, seperti dikutip dari TechCrunch, Senin (5/8/2024).
OpenAI mengatakan teknologi ini khusus dikebangkan untuk tulisan ChatGPT, tidak untuk model AI lainnya. Metode ini bekerja dengan membuat perubahan kecil pada cara ChatGPT memilih kata, yang pada dasarnya menciptakan watermark tak terlihat di dalam tulisan yang bisa dideteksi oleh alat lainnya.
OpenAI juga memperbarui blognya tentang riset yang sudah mereka lakukan untuk mendeteksi konten buatan AI. Mereka mengatakan metode watermarking terbukti akurat dan bahkan efektif dalam mendeteksi edit yang dilakukan secara lokal, misalnya parafrase.
Namun metode ini kurang ampuh dalam mendeteksi manipulasi yang skalanya lebih besar, seperti menggunakan sistem penerjemah, mengubah kata menggunakan model AI lain, atau meminta model AI untuk menambahkan karakter khusus di antara setiap kata dan menghapus karakter tersebut.
Karena itu, metode ini rawan di-bypass oleh aktor jahat. Selain itu, penggunaan watermark juga menimbulkan stigma soal penggunaan AI sebagai alat yang bermanfaat untuk pengguna yang bukan penutur asli bahasa Inggris.
OpenAI masih memikirkan sederet risiko ini sebelum meluncurkan metode tersebut. Saat ini mereka lebih mengedepankan peluncuran alat yang bisa mendeteksi keaslian konten audiovisual.
