Teknologi AI yang berkembang pesat membawa kemudahan dalam kehidupan seharian, namun pada masa yang sama turut menjadi senjata baharu bagi sindiket penipuan. Beberapa kes penipuan telah berlaku baru-baru ini di Huangshi, Hubei, China, di mana kumpulan penjenayah menggunakan teknologi sintesis suara AI untuk menyamar sebagai suara cucu dan menipu, menyebabkan sekurang-kurangnya dua warga emas menjadi mangsa.
Siasatan polis menunjukkan, penipu mengumpul sampel suara dengan membuat panggilan telefon berulang kali, kemudian menjalankan penipuan dengan suara tiruan sehingga sukar untuk dibezakan mana yang benar atau palsu.
Menurut laporan CCTV China, mangsa bernama Puan Liu mengimbas kembali, pada 28 April tahun ini, beliau menerima panggilan telefon daripada seseorang yang mengaku sebagai cucunya, memberitahu terlibat dalam pergaduhan di pasaraya sehingga menyebabkan kecederaan di kepala seseorang lalu telah dipanggil oleh pihak polis. Dia mendakwa sangat memerlukan 20,000 yuan (RM11,700) untuk menyelesaikan masalah tersebut. Bagi mencukupkan jumlah wang, Puan Liu dan suaminya mengumpul duit dari merata tempat, dan mengikut arahan "cucu" untuk menyerahkan tunai kepada seseorang yang mengaku ibu bapa rakan sekelas. Disebabkan suara penipu sangat mirip dengan cucunya, beliau langsung tidak ragu-ragu untuk menyerahkan wang, dan hanya sedar tertipu selepas cucunya pulang ke rumah.
Pemeriksaan lanjut polis mendapati penipu menggunakan telefon talian tetap sebagai saluran utama, mengambil kesempatan atas kelemahan warga emas terhadap teknologi komunikasi serta kepercayaan kepada ahli keluarga, ditambah dengan suara sintetik, menyebabkan mangsa mudah tertipu. Selain itu, penipu juga merekrut orang tidak mengetahui perkara sebenar dengan tawaran kerja sambilan bergaji tinggi secara dalam talian untuk mengutip wang di lokasi tertentu, sekaligus membentuk rantaian jenayah.
Selain penipuan suara, teknologi AI "tukar wajah" juga telah digunakan oleh penjenayah untuk mengaktifkan kad SIM secara haram. Polis Xiangyang di Hubei menumpaskan satu kumpulan penipu yang menggunakan data peribadi dan gambar yang diperolehi secara haram untuk mensintesis video wajah dinamik, sekaligus berjaya memecahkan pertahanan pengecaman wajah syarikat telekomunikasi dan mengaktifkan lebih daripada 200 kad SIM. Kad-kad ini kemudian dijual kepada sindiket penipuan dengan nilai transaksi melebihi 5 juta yuan (RM2.928 juta).
Pakar menegaskan, mekanisme pengesahan atas talian yang hanya bergantung kepada "kad pengenalan + pengecaman wajah" adalah tidak mencukupi untuk menangkis serangan AI canggih. Mereka menyeru syarikat supaya memperkuat pertahanan teknologi, termasuk menggunakan teknologi AI untuk melawan penipuan AI, serta memperkenalkan mekanisme pengesahan baharu seperti pengenalan peta haba dan algoritma pembelajaran mendalam. Pada masa ini, terdapat teknologi yang boleh meningkatkan kadar ketepatan pengenalpastian sehingga melebihi 95%.
Selain itu, "Kaedah Pengurusan Keselamatan Aplikasi Teknologi Pengecaman Wajah" telah berkuat kuasa sejak Jun tahun ini, mewajibkan syarikat supaya mematuhi prinsip sah, wajar dan perlu ketika menggunakan pengecaman wajah, serta melaksanakan langkah perlindungan keselamatan seperti penyimpanan berasingan dan penyulitan maklumat bagi mengelakkan risiko kebocoran data peribadi.
Pakar bidang undang-undang menyatakan, menurut "Undang-Undang Anti-Penipuan Telekom dan Rangkaian Republik Rakyat China", syarikat telekomunikasi yang gagal melaksanakan sistem pendaftaran nama sebenar dan perlindungan keselamatan data dengan baik boleh didenda sehingga 5 juta yuan, malah boleh diarahkan menghentikan operasi perniagaan. Berdepan risiko penipuan AI, "melawan teknologi dengan teknologi" dan penguatkuasaan kawal selia yang ketat adalah kunci utama untuk membendung penipuan.