‘FOTO’ penyanyi pop Taylor Swift yang dijana secara seksual oleh kecerdasan buatan (AI) yang tersebar di platform media sosial awal minggu ini adalah membimbangkan.
Jurucakap Rumah Putih, Karine Jean-Pierre demikian kepada pemberita semasa taklimat berita pada Jumaat dan berjanji akan mengambil tindakan terhadap kelucahan tanpa konsensual, lapor RT.
“Kami akan melakukan apa yang kami mampu untuk menangani isu ini,” kata Jean-Pierre, sambil menambah bahawa Kongres harus meluluskan undang-undang dan platform media sosial harus bertindak keras terhadap perkongsian dan penyiaran imej sedemikian.
“Walaupun syarikat media sosial bebas membuat keputusan mereka sendiri tentang pengurusan kandungan, kami percaya mereka mempunyai peranan penting untuk dimainkan dalam menguatkuasakan, menguatkuasakan peraturan mereka sendiri untuk mencegah penyebaran maklumat yang salah, dan imejan intim tanpa persetujuan orang sebenar,” katanya.
Salah satu imej Swift, yang disiarkan di X, telah dilihat lebih 47 juta kali sebelum akaun menyiarkannya digantung, menurut New York Times. Platform X mendakwa ia sedang berusaha untuk mengeluarkan imej itu dan telah menggantung beberapa akaun yang menyiarkannya. Syarat perkhidmatan platform melarang perkongsian imej orang sebenar yang dijana AI, lucah atau sebaliknya.
Carian untuk ‘Taylor Swift’ pada X pada petang Sabtu berakhir dengan ralat. Seorang peminat Swift di platform itu berkata istilah carian telah diharamkan. Walau bagaimanapun, ‘Taylor Swift’ masih boleh digunakan dalam carian, asalkan perkataan atau perkataan lain didahulukan – sama ada “lindungi” atau “dijana AI.”
Beberapa imej itu pada asalnya disiarkan di kumpulan Telegram yang menumpukan kepada imej seksual wanita yang dijana AI tanpa persetujuan pada Khamis, menurut blog teknologi 404 Media. Yang lain-lain berlegar di 4chan dan forum lain selama berminggu-minggu sebelum perpindahan ke media sosial ‘arus perdana’ membuatkannya tular.
Kebanyakan imej dicipta menggunakan Microsoft’s Designer, penjana teks-ke-imej AI yang tersedia secara komersial. Kumpulan di Telegram menerangkan cara kepada mereka yang belum tahu bagaimana untuk memintas perlindungan Microsoft sendiri terhadap pemalsuan dan imej lucah selebriti. Menurutnya, walaupun program itu tidak akan menghasilkan imej kepada prompt ‘Taylor Swift’, ia akan bertindak balas kepada prompt ‘penyanyi Taylor Swift’.
Microsoft memberitahu blog itu bahawa ia “menyiasat laporan ini dan… mengambil tindakan yang sewajarnya untuk menanganinya,” menunjukkan bahawa syarat perkhidmatannya melarang menggunakan program untuk mencipta kandungan intim dewasa atau tanpa persetujuan.
Penggubal undang-undang Amerika Syarikat (AS) memperkenalkan rang undang-undang di Dewan Perwakilan awal bulan ini yang bertujuan untuk mengawal penggunaan AI di peringkat persekutuan untuk audio dan video palsu.
Akta No Artificial Intelligence Fake Replies and Unauthorized Duplications (NO AI FRAUD Act) dilaporkan berdasarkan rang undang-undang Senat serupa Nurture Originals, Foster Art, dan Keep Entertainment Safe Act (NO FAKES Act), yang membenarkan selebriti menyaman sesiapa sahaja yang mencipta replika digital imej atau suara mereka tanpa kebenaran.
