OpenAI Kembangkan Teknologi Pendeteksi Teks ChatGPT

Rifinet.com – OpenAI, perusahaan di balik ChatGPT, mengumumkan pengembangan teknologi yang mampu mendeteksi teks yang dihasilkan oleh model AI populer mereka. Teknologi ini menggunakan watermark tak terlihat yang disematkan dalam teks, memungkinkan identifikasi konten yang dihasilkan oleh ChatGPT.

Meskipun menjanjikan dalam hal akurasi, OpenAI masih mempertimbangkan risiko peluncuran teknologi ini. Salah satu kekhawatiran utama adalah potensi dampaknya terhadap ekosistem AI yang lebih luas. Selain itu, metode watermarking ini rentan terhadap manipulasi skala besar, seperti penggunaan sistem penerjemah atau model AI lainnya.

OpenAI mengakui tantangan tersebut dan sedang meneliti alternatif lain. Mereka juga memperbarui blog mereka tentang penelitian deteksi konten AI, menyoroti efektivitas watermarking dalam mendeteksi pengeditan lokal dan parafrase, namun mengakui keterbatasannya dalam menghadapi manipulasi yang lebih canggih.

Saat ini, OpenAI memprioritaskan pengembangan alat untuk mendeteksi keaslian konten audiovisual. Mereka berkomitmen untuk mengambil pendekatan yang hati-hati dalam memperkenalkan teknologi deteksi teks ChatGPT, mengingat implikasinya yang luas terhadap penggunaan AI secara etis dan bertanggung jawab.