Penipuan kripto deepfake Elon Musk menyoroti risiko ke Hong Kong saat penipuan terkait AI meningkat

IklanIklanKecerdasan buatan+ IKUTIMengambil lebih banyak dengan myNEWSUMPAN berita yang dipersonalisasi dari cerita yang penting bagi AndaPelajari lebih lanjutTechTech Trends

Komisi Sekuritas dan Kontrak Berjangka telah memperingatkan platform perdagangan crypto palsu yang disebut Quantum AI, penipuan lama yang menggunakan deepfake Elon Musk
Hong Kong telah terbukti sangat rentan terhadap penipuan terkait AI, dengan penipuan industri fintech tumbuh 3,8 persen pada kuartal pertama

Kecerdasan buatan+ FOLLOWMatt Haldane+ FOLLOWPublished: 7:00am, 17 May 2024Mengapa Anda dapat mempercayai SCMPLast week, Komisi Sekuritas dan Kontrak Berjangka Hong Kong (SFC) memperingatkan penipuan menggunakan deepfake Elon Musk yang menggembar-gemborkan platform perdagangan cryptocurrency yang disebut “Quantum AI”. Penipuan ini sudah tua, tetapi menyoroti peningkatan yang mengkhawatirkan dalam penggunaan kecerdasan buatan (AI) untuk melakukan penipuan – dan Asia telah terbukti sangat rentan.

Dalam peringatan publiknya pada 8 Mei, SFC mengatakan bahwa Quantum AI membuat klaim untuk dapat memperoleh pengembalian “terlalu bagus untuk menjadi kenyataan” dan regulator membuat permintaan kepada Kepolisian Hong Kong untuk memblokir akses ke situs web terkait dan halaman media sosial. Domain tertaut tidak dapat diakses pada minggu ini, dan grup Facebook tampaknya telah dihapus.

Sudah ada beberapa kasus insiden penipuan terkait deepfake di Hong Kong, membuat pemerintah waspada. Insiden deepfake di Asia-Pasifik melonjak 1.530 persen tahun lalu, dengan Vietnam dan Jepang mengalami serangan terbanyak, menurut laporan dari platform verifikasi identitas Sumsub.

“Berkat meningkatnya transaksi keuangan digital di pasar Asia yang sedang berkembang, ada kumpulan yang lebih besar untuk target deepfake,” kata Penny Chai, wakil presiden pengembangan bisnis Sumsub di APAC. “Karena volume tinggi transaksi lintas batas instan terjadi di kawasan ini, terutama di Hong Kong, penipu deepfake dapat memanfaatkan kompleksitas dan volume transaksi keuangan untuk melakukan kegiatan penipuan.”

Penipuan Quantum AI sudah ada sejak satu tahun yang lalu, meskipun tampaknya didaur ulang dengan variasi berbeda yang digunakan untuk menargetkan kelompok yang berbeda.

Satu video yang tersebar di Facebook tahun lalu, dibantah oleh PolitiFact, menampilkan Musk, CEO miliarder Tesla dan SpaceX, bersama Jack Ma – salah satu pendiri Alibaba Group Holding, pemilik South China Morning Post – mempromosikan platform tersebut. Itu dimodifikasi dari video Musk dan Ma muncul bersama di Konferensi AI Dunia 2019 di Shanghai.

Video lain dimodifikasi dari penampilan Musk di acara Fox News cendekiawan konservatif Tucker Carlson, menurut Reuters Fact Check.

Beberapa domain yang menggunakan skema ini bergantung pada penyedia hosting murah dan teknologi back-end yang fleksibel seperti WordPress. Salah satu hasil pencarian teratas untuk Quantum AI adalah situs web yang mengatakan bahwa itu memerlukan setoran minimum US $ 250, disertai dengan peringatan bahwa pengguna harus “menginvestasikan hanya apa yang Anda setujui dengan kehilangan sepenuhnya”.

Insiden penipuan menggunakan deepfake – simulacra meyakinkan orang sungguhan menggunakan AI generatif – sedang meningkat. Sumsub – yang melacak insiden penipuan identitas, termasuk melalui penggunaan deepfake – mendeteksi peningkatan sepuluh kali lipat dalam penggunaan deepfake tahun lalu, menurut laporan Penipuan Identitas.

Sumsub mengidentifikasi Hong Kong sebagai salah satu dari lima pasar teratas di Asia untuk penipuan identitas pada tingkat 3,3 persen tahun lalu. Bangladesh memiliki yang tertinggi di 5,4 persen.

Pada kuartal pertama, penipuan industri fintech di Hong Kong tumbuh pada tingkat 3,8 persen, yang 216 persen lebih cepat dari tingkat pada periode yang sama tahun sebelumnya, Sumsub mengatakan kepada Post.

Deepfake telah menyebabkan kerugian puluhan juta dolar di kota.

Pada tahun 2020, seorang manajer di sebuah bank Jepang tertipu oleh audio palsu yang meniru suara direkturnya untuk mentransfer US$35 juta. Perusahaan multinasional lain kehilangan US $ 25,6 juta karena penipuan yang melibatkan panggilan video deepfake yang meniru kemiripan chief financial officer.SFC telah menjadi semakin hawkish dalam menandai penipuan terkait kripto di situs webnya. Dari 29 platform perdagangan aset virtual mencurigakan yang terdaftar oleh SFC, 18 peringatan dikeluarkan tahun ini, dan 24 di antaranya dikeluarkan sejak skandal JPEX September lalu.

06:18

‘Ini menakutkan’: Penipuan cryptocurrency Asia menipu puluhan ribu korban ‘dicuci otak’

Insiden itu mengikat pertukaran cryptocurrency JPEX dengan kerugian sekitar HK $ 1,5 miliar (US $ 192 juta), menjadikannya salah satu penipuan keuangan terbesar dalam sejarah kota.

Regulator juga lebih aktif dalam menandai produk terkait kripto mencurigakan lainnya. Pada hari Senin, ia memperingatkan produk investasi yang disebut LENA Network yang melibatkan pengaturan staking, pinjaman dan pinjaman cryptocurrency.

Pengaturan untuk staking, yang mengharuskan penguncian sejumlah crypto untuk memvalidasi transaksi pada blockchain, dapat “berjumlah skema investasi kolektif yang tidak sah”, SFC memperingatkan, dan “mungkin sangat berisiko”.

Tiang