Wanovy | Teknologi | 02-02-2023
PARBOABOA - Startup berbasis Artificial intelligence, OpenAI baru saja merilis alat pendeteksi tulisan chatbot AI baru, Rabu (1/2/2023). Alat ini didesain agar mampu mendeteksi apakah sebuah tulisan dibuat oleh manusia atau kecerdasan buatan, termasuk platform-nya sendiri ChatGPT.
Hal ini adalah respon perusahaan terhadap banyaknya laporan dari institusi pendidikan yang melarang penggunaan teknologi tersebut. Diketahui, banyak mahasiswa dan pelajar di Amerika Serikat yang kedapatan menggunakannya untuk membuat tugas atau artikel.
OpenAI membuat tools yang diberi nama "AI Text Classifier" ini dengan tujuan untuk membedakan antara tulisan yang dibuat oleh manusia atau kecerdasan buatan (AI).
Tools ini akan sangat diapresiasi oleh para guru atau dosen mengingat mulai banyak siswa yang memanfaatkan AI untuk mengerjakan tugas mereka. Meski begitu, pihak OpenAI sendiri mengatakan bahwa tools "Classifier" ini memang belum bisa diandalkan 100%.
Dalam laman resminya, OpenAI menyebut bahwa Classifier ini sebaiknya tidak dijadikan sebagai tools utama dalam pengambilan keputusan. Perusahaan menjelaskan, tool GPT-Classifier saat ini baru bisa mengidentifikasi dengan benar 26 persen teks tulisan AI.
"Sementara itu melabeli 9 persen teks manusia sebagai tulisan AI," katanya.
OpenAI juga mencatat, akurasi tool ini akan meningkat seiring dengan bertambahnya jumlah teks yang ditulis. Sayangnya, tool GPT-Classifier ini baru bisa mendeteksi teks yang ditulis menggunakan bahasa Inggris.
"Pekerjaan kami dalam mendeteksi teks yang ditulis AI akan terus berlanjut, dan berharap dapat memberikan hasil lebih di masa mendatang," tulis Hendrik Kirchner, Ahmad, Aaronson, dan Leike.
Walau fungsi dan fitur GPT-Classifier ini masih terbatas, permintaan untuk tool pendeteksi ChatGPT atau lainnya ini sangat dinanti oleh banyak pihak.
Kreator ChatGPT ini juga berkomitmen untuk membuat dan merilis tool deteksi GPT ini secara gratis untuk dipakai pelajar, penulis, programer, dan lainnya.
Jika OpenAI AI Text Classifier sangat percaya bahwa teks yang dimasukkan merupakan tulisan manusia, maka alat ini akan menampilkan kesimpulan "very unlikely" alias "sangat tidak mungkin" bahwa tulisan itu berasal dari robot atau mesin.
Sebaliknya, jika OpenAI AI Text Classifier sangat percaya bahwa teks yang dimasukkan berasal dari robot atau ChatGPT, maka alat ini akan menampilkan kesimpulan "likely" alias "sangat mungkin".
Berikut kesimpulan lengkap yang bakal diberikan alat ini:
Perusahaan juga mengingatkan bahwa classifier memiliki sejumlah keterbatasan sehingga tidak boleh digunakan sebagai alat pengambil keputusan utama. Alat ini sebaiknya sebagai pelengkap metode lain untuk menentukan sumber dari sebuah teks.
Pengguna juga tidak dapat mengandalkan alat ini terhadap teks pendek di bawah 1.000 karakter. Teks yang lebih panjang biasanya dibeli label yang salah.
“Terkadang teks yang ditulis manusia akan dilabeli dengan salah tetapi dengan percaya diri sebagai tulisan AI oleh pengklasifikasi kami,” ungkap perusahaan.
Pengguna sebaiknya menggunaan classifier hanya terhadap teks berbahasa Inggris. Alat ini memiliki kinerja yang sangat buruk ketika diaplikasikan terhadap bahasa lain dan tidak dapat diandalkan.
Classifier perusahaan dapat diperbarui dan dilatih ulang berdasarkan serangan yang berhasil, tetapi tidak jelas apakah pendeteksian memiliki keuntungan dalam jangka panjang.
“Pengklasifikasi berdasarkan jaringan saraf diketahui dikalibrasi dengan buruk di luar data pelatihan mereka. Untuk masukan yang sangat berbeda dari teks dalam set pelatihan kami, pengklasifikasi terkadang sangat yakin dengan prediksi yang salah,” tulis laman tersebut.
Editor : Juni Sinaga
Tag : #OpenAI #ChatGPT #teknologi #chatbot #Chatbot AI