(Putrajaya / Jakarta, 12 Jan) — Kerajaan Malaysia dan Indonesia masing-masing bertindak menyekat alat kecerdasan buatan (AI) milik jutawan Elon Musk, Grok, atas alasan aplikasi itu didakwa digunakan untuk menjana imej bogel wanita dan kanak-kanak serta kandungan lucah lain.
Suruhanjaya Komunikasi dan Multimedia Malaysia (MCMC) pada Ahad (11 Jan) dalam satu kenyataan mengumumkan sekatan sementara terhadap penggunaan chatbot AI Grok oleh pengguna Malaysia, berkuat kuasa serta-merta.
Kenyataan itu berkata, pihak berkuasa pada 3 dan 8 Januari telah memaklumkan kepada platform media sosial X dan syarikat induk Grok, xAI, agar mereka mengambil langkah perlindungan teknikal dan menambahbaik mekanisme kawalan kandungan bagi mengelakkan AI terus menjana kandungan yang melanggar undang-undang Malaysia.
Namun, respons daripada platform X pada 7 dan 9 Januari hanya menekankan mekanisme pelaporan oleh pengguna, dan tidak dapat menyelesaikan risiko yang wujud akibat reka bentuk dan operasi alat AI tersebut.
Pihak berkuasa Malaysia berpendapat langkah ini tidak mencukupi untuk mencegah bahaya serta tidak dapat memastikan pihak terbabit mematuhi undang-undang.
Pihak berkuasa menyatakan Grok masih terus menghasilkan kandungan cabul serta lucah selepas itu, termasuk pengubahsuaian imej tanpa kebenaran dan kandungan seksual melibatkan wanita dan kanak-kanak.
Oleh itu, kerajaan Malaysia memutuskan untuk menyekat Grok buat sementara waktu, “sehingga langkah perlindungan yang berkesan dilaksanakan, terutamanya bagi menghalang kandungan melibatkan wanita dan kanak-kanak.”
Sehari sebelum itu, Menteri Komunikasi dan Digital Indonesia, Bapak Budi Arie Setiadi berkata, bagi melindungi wanita, kanak-kanak dan masyarakat umum daripada kesan kandungan lucah palsu yang dijana teknologi AI, pihaknya telah melaksanakan sekatan sementara ke atas Grok serta mengarahkan platform X memperbaiki isu tersebut dengan serta-merta.
Bapak Budi pada Sabtu (10 Jan) dalam satu kenyataan menegaskan, kerajaan Indonesia memandang serius penciptaan deepfake tanpa izin kerana ia merupakan pelanggaran hak asasi manusia, maruah dan keselamatan negara dalam ruang digital.
Sebelum tindakan dari Malaysia dan Indonesia, xAI pada Jumaat (9 Jan) telah mengumumkan sekatan ke atas kebanyakan pengguna platform X daripada menggunakan fungsi menjana imej AI; pengguna kini perlu membayar untuk menggunakan fungsi tersebut. Ciri percuma sebelum ini menerima kritikan hebat kerana membenarkan penjanaan imej bogel wanita dan kanak-kanak.
Bagaimanapun, aplikasi Grok beroperasi secara bebas dari platform X dan masih membenarkan pengguna secara percuma menghasilkan imej.
Kenyataan itu berkata, pihak berkuasa pada 3 dan 8 Januari telah memaklumkan kepada platform media sosial X dan syarikat induk Grok, xAI, agar mereka mengambil langkah perlindungan teknikal dan menambahbaik mekanisme kawalan kandungan bagi mengelakkan AI terus menjana kandungan yang melanggar undang-undang Malaysia.
Namun, respons daripada platform X pada 7 dan 9 Januari hanya menekankan mekanisme pelaporan oleh pengguna, dan tidak dapat menyelesaikan risiko yang wujud akibat reka bentuk dan operasi alat AI tersebut.
Pihak berkuasa Malaysia berpendapat langkah ini tidak mencukupi untuk mencegah bahaya serta tidak dapat memastikan pihak terbabit mematuhi undang-undang.
Pihak berkuasa menyatakan Grok masih terus menghasilkan kandungan cabul serta lucah selepas itu, termasuk pengubahsuaian imej tanpa kebenaran dan kandungan seksual melibatkan wanita dan kanak-kanak.
Oleh itu, kerajaan Malaysia memutuskan untuk menyekat Grok buat sementara waktu, “sehingga langkah perlindungan yang berkesan dilaksanakan, terutamanya bagi menghalang kandungan melibatkan wanita dan kanak-kanak.”
Sehari sebelum itu, Menteri Komunikasi dan Digital Indonesia, Bapak Budi Arie Setiadi berkata, bagi melindungi wanita, kanak-kanak dan masyarakat umum daripada kesan kandungan lucah palsu yang dijana teknologi AI, pihaknya telah melaksanakan sekatan sementara ke atas Grok serta mengarahkan platform X memperbaiki isu tersebut dengan serta-merta.
Bapak Budi pada Sabtu (10 Jan) dalam satu kenyataan menegaskan, kerajaan Indonesia memandang serius penciptaan deepfake tanpa izin kerana ia merupakan pelanggaran hak asasi manusia, maruah dan keselamatan negara dalam ruang digital.
Sebelum tindakan dari Malaysia dan Indonesia, xAI pada Jumaat (9 Jan) telah mengumumkan sekatan ke atas kebanyakan pengguna platform X daripada menggunakan fungsi menjana imej AI; pengguna kini perlu membayar untuk menggunakan fungsi tersebut. Ciri percuma sebelum ini menerima kritikan hebat kerana membenarkan penjanaan imej bogel wanita dan kanak-kanak.
Bagaimanapun, aplikasi Grok beroperasi secara bebas dari platform X dan masih membenarkan pengguna secara percuma menghasilkan imej.