Google membuat sejumlah pengumuman berbasis kecerdasan buatan (AI) pada Selasa malam selama sesi keynote I/O 2024. Ini termasuk model AI baru, peningkatan model inti yang ada, integrasi fitur AI ke dalam produk Google, dan banyak lagi. Raksasa teknologi ini juga berfokus pada keamanan AI dan memperluas penggunaan teknologi watermarking aslinya untuk konten yang dihasilkan AI, yang disebut SynthID. Toolkit baru ini sekarang akan menyertakan tanda air untuk teks yang dihasilkan oleh aplikasi Gemini dan klien web, serta video yang dibuat oleh Veo.

SynthID adalah yang pertama menyingkap Oleh Google DeepMind pada Agustus 2023 sebagai proyek percontohan yang bertujuan untuk mengklasifikasikan konten yang dihasilkan AI dengan benar. Kebutuhan akan solusi seperti ini dirasakan karena munculnya kasus-kasus di mana media yang dibuat secara artifisial tersebut dibagikan sebagai hal yang nyata. Mereka telah digunakan untuk menyebarkan informasi yang salah dan kejahatan dunia maya seperti phishing. Raksasa teknologi ini pertama kali menggunakan teknologi tersebut pada November 2023, ketika teknologi tersebut digunakan untuk memberi tanda air pada audio yang dihasilkan AI melalui model Lyria-nya. Toolkit ini menambahkan tanda air sebagai bentuk gelombang pada audio agar tidak terlihat tetapi dapat dideteksi.

Kini, Google memperluas penggunaan SynthID dengan menyertakan pembuatan teks dan video. Teks yang dibuat dengan aplikasi dan situs web Gemini sekarang akan diberi tanda air. Untuk tujuan ini, toolkit ini akan menargetkan proses pembuatan itu sendiri. Setiap model AI berbasis teks menggunakan token — yang dapat berupa kata, klip audio, atau frasa — untuk pelatihan. Proses pelatihan juga mencakup pemahaman alur penggunaan token ini, atau urutan token yang harus diikuti untuk menghasilkan respons yang paling konsisten.

SynthID memberikan “informasi tambahan dalam distribusi token pada titik pembuatan dengan menyesuaikan kemungkinan pembuatan token.” Dengan cara ini kata-kata tertentu dalam blok teks yang dihasilkan diberi nomor. Ketika mendeteksi apakah AI digunakan untuk membuat teks, ia akan memeriksa skor terhadap skor probabilitas yang disesuaikan untuk menentukan apakah sumbernya mungkin merupakan model AI. DeepMind disorot dalam a surat Teknik ini berguna saat AI menghasilkan teks kreatif yang panjang karena model probabilistik lebih mudah memverifikasi cara pembuatannya. Namun, untuk respons realistis yang lebih pendek, pendeteksiannya mungkin tidak seakurat itu.

Perusahaan juga memperluas SynthID dengan baru-baru ini meluncurkan video Veo yang dihasilkan AI. Google mengatakan teknologi tersebut akan menyematkan tanda air langsung ke dalam piksel setiap frame video, yang tidak akan terlihat oleh mata manusia tetapi akan muncul saat sistem deteksi digunakan.

Dalam beberapa bulan mendatang, Google berencana untuk membuat watermark teks sumber terbuka dengan SynthID melalui perangkat AI yang Bertanggung Jawab. Makalah penelitian terperinci yang menjelaskan teknologi watermarking teks juga akan dipublikasikan.

Sumber