Perusahaan OpenAI, yang terkenal dengan chatbot AI populer, ChatGPT, kini berada di persimpangan jalan. Mereka memiliki teknologi untuk menandai atau watermark teks yang dihasilkan oleh AI selama hampir satu tahun. Namun, mereka terpecah dalam keputusan untuk menerapkannya.
Di satu sisi, penggunaan watermark dianggap sebagai langkah yang bertanggung jawab. Dengan watermark, konten yang ditulis oleh manusia dapat dibedakan dari teks yang dihasilkan AI. Ini akan sangat berguna bagi guru yang ingin mencegah siswa menggunakan AI untuk mengerjakan tugas tulisan. Watermark adalah metode untuk menandai sesuatu agar bisa dikenali dengan lebih jelas.
Namun, OpenAI juga mempertimbangkan dampaknya terhadap pengguna mereka. Sebuah survei yang dipesan oleh perusahaan menunjukkan bahwa meski banyak orang di seluruh dunia mendukung alat deteksi AI dengan rasio 4 banding 1, hampir 30% pengguna ChatGPT menyatakan mereka akan menggunakan perangkat lunak tersebut lebih sedikit jika watermark diterapkan.
Dalam pembaruan di blog perusahaan, OpenAI mengonfirmasi bahwa metode watermarking mereka sangat efektif, dengan tingkat keberhasilan mencapai 99,9%. Namun, mereka juga menyadari bahwa metode ini bisa dengan mudah dihindari oleh pihak-pihak yang tidak bertanggung jawab melalui teknik seperti merubah kata-kata dengan model lain.
OpenAI juga menyoroti keprihatinan mengenai potensi stigma alat AI terhadap penutur bahasa non-pribumi. Ini menunjukkan pertimbangan etis yang kompleks yang harus diperhatikan.
Seiring perkembangan teknologi AI, menemukan keseimbangan antara inovasi, etika, dan kepuasan pengguna akan menjadi tantangan besar bagi industri secara keseluruhan.
