GOOGLE sedang mencuba tera air digital untuk melihat imej yang dibuat oleh kecerdasan buatan (AI) dalam usaha untuk melawan maklumat palsu.
Dibangunkan oleh DeepMind, cabang AI Google, SynthID akan mengenal pasti imej yang dihasilkan oleh mesin.
Ia berfungsi dengan memasukkan perubahan pada setiap piksel dalam imej supaya tera air tidak dapat dilihat oleh mata manusia, tetapi boleh dikesan oleh komputer.
Tetapi DeepMind berkata, ia tidak “kalis terhadap manipulasi imej yang melampau”.
Apabila teknologi berkembang, ia menjadi semakin kompleks untuk membezakan antara imej sebenar dan yang dihasilkan secara buatan – seperti yang ditunjukkan oleh kuiz AI or Real BBC Bitesize.
Penjana imej AI telah menjadi arus perdana, dengan alat popular Midjourney yang mempunyai lebih daripada 14.5 juta pengguna.
Mereka membenarkan orang ramai mencipta imej dalam beberapa saat dengan memasukkan arahan teks mudah, yang membawa kepada persoalan mengenai hak cipta dan pemilikan di seluruh dunia.
Google mempunyai penjana imej sendiri yang dipanggil Imagen, dan sistemnya untuk mencipta dan menyemak tera air hanya akan digunakan pada imej yang dibuat menggunakan alat ini.
Tidak kelihatan
Tera air biasanya logo atau teks yang ditambahkan pada imej untuk menunjukkan pemilikan, serta sebahagiannya untuk menjadikannya lebih rumit untuk gambar disalin dan digunakan tanpa kebenaran.
Ia adalah dalam imej yang digunakan di laman web BBC News, yang biasanya menyertakan tera air hak cipta di sudut kiri bawah.
Tetapi tera air jenis ini tidak sesuai untuk mengenal pasti imej janaan Al kerana ia boleh diedit atau dipangkas dengan mudah.
Syarikat teknologi menggunakan teknik yang dipanggil hashing untuk mencipta “cap jari” digital bagi video penyalahgunaan yang diketahui, supaya mereka dapat mengesannya dan mengalih keluarnya dengan cepat jika ia mula merebak dalam talian. Tetapi ini juga boleh menjadi rosak jika video dipangkas atau diedit.
Sistem Google mencipta tera air yang tidak kelihatan dengan berkesan, yang akan membolehkan orang ramai menggunakan perisiannya untuk mengetahui serta-merta sama ada gambar itu nyata atau dibuat oleh mesin.
Pushmeet Kohli, ketua penyelidikan di DeepMind, memberitahu BBC sistemnya mengubah suai imej dengan begitu halus “sehingga kepada anda dan saya, kepada manusia, ia tidak berubah”.
Tidak seperti hashing, katanya walaupun selepas imej itu dipangkas atau disunting, perisian firma itu masih boleh mengenal pasti kehadiran tera air.
“Anda boleh menukar warna, anda boleh menukar kontras, malah anda boleh mengubah saiznya… [dan DeepMind] masih akan dapat melihat bahawa ia dijana AI,” katanya.
Tetapi dia memberi amaran bahawa ini adalah “pelancaran percubaan” sistem dan syarikat memerlukan orang ramai untuk menggunakannya untuk mengetahui lebih lanjut tentang sejauh mana ia boleh berfungsi.
Penyeragaman
Pada bulan Julai, Google menjadi satu daripada tujuh syarikat terkemuka dalam kecerdasan buatan menandatangani perjanjian sukarela di AS untuk memastikan pembangunan dan penggunaan AI yang selamat, termasuk memastikan orang ramai dapat melihat imej buatan komputer dengan melaksanakan tera air.
Kohli berkata, ini adalah langkah yang mencerminkan komitmen tersebut tetapi Claire Leibowicz, daripada kumpulan kempen Perkongsian mengenai AI berkata, perlu ada lebih banyak penyelarasan antara perniagaan.
“Saya fikir penyeragaman akan membantu untuk bidang itu,” katanya.
“Terdapat kaedah berbeza yang sedang dijalankan, kita perlu memantau kesannya – bagaimana kita boleh mendapatkan pelaporan yang lebih baik tentang mana yang berkesan dan untuk tujuan apa?
“Banyak institusi sedang meneroka kaedah berbeza, yang menambahkan tahap kerumitan, kerana ekosistem maklumat kami bergantung pada kaedah berbeza untuk mentafsir dan menafikan kandungan dijana AI,” katanya.
Microsoft dan Amazon adalah antara syarikat teknologi besar yang, seperti Google, telah berjanji untuk membuat tera air beberapa kandungan yang dijana AI.
Di luar imej, Meta telah menerbitkan kertas penyelidikan kepada penjana video yang belum dikeluarkan Make-A-Video, yang mengatakan tera air akan ditambahkan pada video yang dijana untuk memenuhi permintaan yang sama untuk ketelusan terhadap kerja yang dijana AI.
China melarang imej yang dijana AI tanpa tera air sama sekali pada awal tahun ini, dengan firma seperti Alibaba menerapkannya pada ciptaan yang dibuat dengan alat teks-ke-imej pada bahagian awannya, Tongyi Wanxiang.
