Platform media sosial tidak patuh turunkan kandungan penipuan AI

9 SEPT : Terdapat penyedia platform media sosial yang tidak mematuhi arahan penurunan kandungan berkait manipulasi dan penipuan yang dijana kecerdasan buatan (AI).

Menteri Komunikasi, Datuk Fahmi Fadzil berkata hanya 84 peratus daripada keseluruhan permohonan penurunan kandungan yang dipatuhi.

“Daripada pengamatan MCMC dan saya sendiri, platform-platform media sosial tidak mengambil serius isu keselamatan dalam talian melibatkan kandungan AI.

“Hal ini terbukti apabila Seri Paduka Baginda Yang di-Pertuan Agong dan Perdana Menteri sendiri menjadi mangsa penipuan deepfake yang kononnya mempromosikan skim pelaburan,” katanya.

Beliau berkata demikian pada sesi soal jawab lisan di Dewan Negara, hari ini.

Fahmi menjawab pertanyaan Rita Sarimah Patrick Insol berkait jumlah kes penipuan yang dikesan menggunakan AI dalam tempoh dua tahun kebelakangan ini serta langkah meningkatkan kesedaran masyarakat berkaitan jenayah digital itu.

Menurutnya,bagi tempoh 1 Jan 2024 hingga 31 Ogos lalu, 1,602 permohonan menurunkan kandungan penipuan dibuat Suruhanjaya Komunikasi dan Multimedia Malaysia (MCMC) namun hanya 1,346 kandungan atau sekitar 84 peratus yang diturunkan.

Justeru itu, beliau yang juga Jurucakap Kerajaan Perpaduan berkata kerajaan akan melaksanakan Akta Keselamatan Dalam Talian 2025 (Akta 866) hujung tahun ini atau awal tahun depan susulan terdapat keperluan mendesak.

Akta itu antara lain mewajibkan semua platform media sosial dan aplikasi pemesejan dalam talian menggunakan label pada kandungan berasaskan AI.

“Platform diwajibkan menggunakan label seperti ‘AI Generated’ atau ‘AI Enhanced’ pada gambar atau kandungan AI.

“Kita akui AI boleh menambah baik sesuatu visual, namun ia tidak boleh disalahgunakan untuk tujuan penipuan yang akhirnya merugikan orang ramai,” katanya.

Akta itu juga mewajibkan penyedia perkhidmatan menyediakan pelan keselamatan dalam talian sebagai bukti pematuhan terhadap peraturan, katanya.

Selain itu, MCMC kini meneliti kemungkinan mengenakan syarat pelesenan kepada aplikasi yang menggunakan AI.

Bagi membenteras jenayah digital secara menyeluruh, Fahmi berkata kerajaan menubuhkan Pusat Respons Scam Kebangsaan (NSRC) yang diterajui Polis Diraja Malaysia, Kementerian Komunikasi, Kementerian Dalam Negeri (KDN), Bank Negara Malaysia dan MCMC.

Katanya, NSRC berperanan sebagai pusat tindakan segera terhadap kes penipuan digital dan melaksanakan program kesedaran awam serta kempen nasional berkaitan jenayah digital.