Mengenal SynthID, Teknologi Canggih Google untuk Deteksi Konten AI

Rifinet.com, Jakarta– Google telah mengambil langkah besar dalam mendorong penggunaan kecerdasan buatan (AI) yang bertanggung jawab dengan membuka akses publik terhadap SynthID, teknologi inovatif yang mampu mendeteksi dan memverifikasi asal-usul konten yang dihasilkan oleh AI.

Sebelumnya hanya tersedia untuk pengguna tertentu, SynthID kini dapat diakses oleh para pengembang AI di seluruh dunia. Teknologi ini bekerja dengan menyematkan watermark digital yang tidak terlihat ke dalam konten yang dihasilkan AI, baik itu teks, gambar, audio, maupun video. Watermarkini memungkinkan identifikasi konten yang dihasilkan AI, membantu membedakannya dari konten asli buatan manusia.

Langkah Google ini dilatarbelakangi oleh meningkatnya kekhawatiran akan potensi penyalahgunaan model bahasa besar (LLM) untuk tujuan negatif. LLM, dengan kemampuannya menghasilkan teks yang menyerupai tulisan manusia, rentan dimanfaatkan untuk menyebarkan misinformasi, menghasilkan konten deepfake, dan melakukan berbagai tindakan kejahatan siber lainnya.

Pushmeet Kohli, Wakil Presiden Penelitian di Google DeepMind, menegaskan bahwa SynthID membantu para pengembang AI untuk memastikan bahwa konten yang dihasilkan oleh model mereka dapat diidentifikasi dengan jelas, dan menyebutnya sebagai langkah penting dalam membangun ekosistem AI yang bertanggung jawab dan transparan.

SynthID memanfaatkan teknik canggih untuk menyisipkan watermark langsung ke dalam struktur konten yang dihasilkan AI. Pada teks, misalnya, SynthID memodifikasi pola probabilitas token yang digunakan oleh LLM. Token adalah unit dasar dalam pemrosesan bahasa alami, yang dapat berupa karakter, kata, atau frasa. LLM memprediksi token berikutnya dalam sebuah kalimat berdasarkan token-token sebelumnya dan skor probabilitas yang diberikan pada setiap token potensial.

SynthID secara halus memanipulasi skor probabilitas ini tanpa mengubah makna atau kualitas teks. Dengan menganalisis pola skor probabilitas, SynthID dapat mendeteksi keberadaan watermark dan mengidentifikasi model AI yang menghasilkan teks tersebut. Proses ini berlangsung di balik layar, sehingga pengguna tidak akan menyadari adanya watermarkdalam konten yang mereka hasilkan atau konsumsi.

Watermark yang disematkan SynthID tidak terlihat oleh mata manusia dan tidak memengaruhi kualitas konten. Ketahanan watermarkini juga patut diperhatikan karena tetap terdeteksi meskipun konten telah diedit, dikompresi, atau dimodifikasi. Akurasi SynthID dalam mendeteksi konten yang dihasilkan AI juga tinggi, dan teknologi ini cukup fleksibel untuk diterapkan pada berbagai jenis konten, termasuk teks, gambar, audio, dan video.

Penerapan SynthID memiliki potensi untuk memberikan dampak positif yang signifikan. SynthID dapat membantu mengidentifikasi sumber informasi yang dihasilkan AI, sehingga memudahkan verifikasi dan mencegah penyebaran berita palsu. Dengan kemampuannya mendeteksi konten AI, SynthID dapat digunakan untuk mencegah penyalahgunaan LLM dalam pembuatan deepfake, spam, dan konten berbahaya lainnya.

SynthID memungkinkan identifikasi model AI yang menghasilkan konten tertentu, sehingga meningkatkan akuntabilitas dan transparansi dalam pengembangan dan penggunaan AI. Dengan membantu memastikan keaslian konten, SynthID dapat berkontribusi dalam membangun kepercayaan publik terhadap teknologi AI.

Pentingnya teknologi seperti SynthID semakin diakui oleh para pembuat kebijakan di seluruh dunia. Pemerintah California dan China telah mempertimbangkan untuk mewajibkan penggunaan watermark AI sebagai upaya untuk mengatur penggunaan LLM dan mencegah penyalahgunaan. Meskipun masih dalam tahap awal pengembangan, SynthID memiliki potensi besar untuk menjadi standar industri dalam identifikasi konten AI.

Google berkomitmen untuk terus mengembangkan dan menyempurnakan teknologi ini, serta bekerja sama dengan para pemangku kepentingan untuk memastikan penerapannya yang bertanggung jawab dan etis.

SynthID merupakan langkah krusial dalam mewujudkan masa depan AI yang bertanggung jawab. Dengan menyediakan alat untuk mendeteksi dan memverifikasi konten yang dihasilkan AI, SynthID membantu menciptakan lingkungan digital yang lebih aman, transparan, dan akuntabel.

Diharapkan bahwa SynthID akan mendorong inovasi AI yang positif dan mencegah penyalahgunaan teknologi yang dapat merugikan masyarakat. Dengan kolaborasi dan komitmen dari seluruh pemangku kepentingan, AI dapat terus berkembang dan memberikan manfaat bagi umat manusia. (nova/fine)