META akan memperkenalkan teknologi yang boleh mengesan dan melabelkan imej yang dihasilkan oleh alat kecerdasan buatan (AI) syarikat lain.
Ia akan digunakan pada platform Facebook, Instagram dan Threads.
Meta sudah melabelkan imej AI yang dihasilkan oleh sistemnya sendiri. Ia berharap teknologi baharu, yang masih dibangunkan, akan mewujudkan momentum bagi industri untuk menangani penipuan AI.
Tetapi pakar AI memberitahu BBC alat sedemikian mudah dielak.
Dalam blog yang ditulis oleh eksekutif kanan Sir Nick Clegg, Meta berkata ia berhasrat untuk mengembangkan pelabelan AI palsu dalam beberapa bulan akan datang.
Dalam temu bual dengan agensi berita Reuters, beliau mengakui teknologi itu belum matang sepenuhnya tetapi berkata syarikat itu mahu mewujudkan momentum dan insentif untuk diikuti oleh seluruh industri.
Mudah dielak
Tetapi Prof Soheil Feizi, pengarah Reliable AI Lab di Universiti Maryland, menyatakan bahawa sistem sedemikian mudah untuk diatasi.
“Mereka mungkin boleh melatih pengesan mereka untuk dapat menanda beberapa imej yang dihasilkan secara khusus oleh beberapa model tertentu,” katanya kepada BBC.
“Tetapi pengesan tersebut boleh dielakkan dengan mudah oleh beberapa pemprosesan ringan terhadap imej, dan mereka juga mempunyai kadar positif palsu yang tinggi.
“Jadi saya tidak fikir ia boleh digunakan untuk pelbagai aplikasi.”
Meta mengakui alatnya tidak akan berfungsi untuk audio dan video – walaupun ia adalah media yang menjadi tumpuan AI palsu.
Firma itu sebaliknya meminta pengguna untuk melabelkan siaran audio dan video mereka sendiri, dan ia mungkin mengenakan denda jika mereka gagal berbuat demikian.
Sir Nick Clegg juga mengakui adalah mustahil untuk menguji teks yang dihasilkan oleh alat seperti ChatGPT.
Dasar media ‘tidak bersepadu’
Pada Isnin, Lembaga Pemantauan Meta mengkritik syarikat itu kerana polisinya terhadap media yang dimanipulasi, tidak bersepadu, tidak mempunyai justifikasi yang menyakinkan dan tidak memfokuskan pada cara kandungan dibuat.
Lembaga Pemantauan dibiayai oleh Meta tetapi tidak terikat dengan syarikat itu.
Kritikan itu sebagai reaksi kepada keputusan mengenai video Presiden Amerika Syarikat (AS) Joe Biden. Video berkenaan menyunting rakaman asal presiden bersama cucu perempuannya supaya kelihatan seolah-olah dia menyentuhnya secara tidak wajar.
Kerana ia tidak dimanipulasi menggunakan AI, dan hanya menggambarkan Biden membuat perkara yang tidak dia lakukan, bukannya mengatakan sesuatu yang tidak diucapkannya, ia tidak melanggar dasar media yang dimanipulasi Meta – dan video itu tidak dikeluarkan.
Lembaga Pengarah bersetuju bahawa video itu tidak melanggar peraturan semasa Meta mengenai media palsu, tetapi mengatakan bahawa peraturan itu harus dikemas kini.
Sir Nick memberitahu Reuters bahawa dia secara umumnya bersetuju dengan keputusan itu.
Dia mengakui bahawa dasar Meta sedia ada tidak sesuai dalam persekitaran di mana kandungan sintetik dan kandungan hibrid jauh lebih banyak daripada sebelumnya.
Mulai Januari, syarikat itu mempunyai dasar yang menyatakan bahawa iklan politik perlu memberitahu jika mereka menggunakan imej atau video yang diubah secara digital.
