Mantan penyelidik OpenAI, Kokotailo, dalam satu temu bual eksklusif bersama majalah Der Spiegel baru-baru ini memberi amaran bahawa kecerdasan buatan (AI) sedang berkembang pada kadar jauh melebihi jangkaan. Jika dunia gagal menubuhkan mekanisme kawal selia tepat pada masanya, sebaik sahaja AI super muncul dan tidak lagi perlu berpura-pura patuh kepada manusia, ia berkemungkinan melancarkan serangan pemusnahan terhadap manusia, dan ini mungkin berlaku seawal tahun 2027.
Kokotailo, 33, pernah berkhidmat di OpenAI dan meletak jawatan secara berkumpulan pada tahun 2024 bersama beberapa rakan sekerja dengan mengeluarkan surat terbuka yang menuduh syarikat meremehkan risiko AI yang tidak terkawal. Beliau kemudiannya menubuhkan think tank "AI Futures Project", serta menerbitkan laporan bertajuk "AI 2027" pada April tahun ini yang mencetuskan perdebatan global.
"AI 2027" membentangkan dua senario masa depan: “perlahan” dan “perlumbaan”. Dalam senario “perlahan”, manusia berjaya menubuhkan mekanisme kawal selia, sewaktu AI mengambil alih banyak pekerjaan namun masih dapat hidup damai bersama manusia. Senario “perlumbaan” pula melibatkan perlumbaan persenjataan teknologi AS-China, di mana pembangunan AI tidak terkawal, dan akhirnya AI menganggap manusia sebagai penghalang lalu mengaktifkan mekanisme pemusnahan.
Menjadikan AI Sebagai Pembantu Membangunkan AI Lebih Hebat
Kokotailo memberitahu Der Spiegel bahawa ketika ini banyak syarikat teknologi sedang berusaha mengautomasi penyelidikan AI, iaitu menjadikan AI sebagai pembantu untuk membangunkan AI yang lebih hebat. Jika trend ini berterusan, seorang pembangun program maya yang melangkaui kemampuan manusia mungkin muncul sebelum tahun 2027, dan hanya tinggal beberapa bulan sahaja sebelum "superintelligence" AI dilahirkan.
Beliau tidak menafikan bahawa model bahasa besar (LLM) seperti ChatGPT pada dasarnya hanyalah alat pelengkap teks, namun menegaskan bahawa potensi AI jauh melampaui pemahaman kini. Analogi paling tepat adalah seperti “otak manusia maya yang bersambung kepada dunia maya, dapat menyerap maklumat tanpa had dan terus belajar”.
Mengenai kerja-kerja fizikal yang kini sukar digantikan oleh AI, Kokotailo menyatakan ini hanya fenomena sementara. AI supercerdik pada masa depan akan mampu mencari jalan penyelesaian. Beliau berkata: “Walaupun pada hari ini kita belum dapat membina robot yang mampu menggantikan tukang kayu atau juruelektrik, ini bukan masalah di masa depan.”
Beliau menganggarkan, kilang automatik yang direka oleh AI mungkin hanya memerlukan setahun untuk dibina, iaitu sepantas kilang kereta moden. Kokotailo memberikan contoh bagaimana Amerika Syarikat pada zaman Perang Dunia Kedua dapat segera bertukar kepada pengeluaran senjata apabila didorong oleh motivasi dan sumber yang mencukupi; dengan menggabungkan kecekapan AI, perubahan teknologi akan berlaku jauh lebih pantas berbanding masa lalu.
Adakah Pekerjaan Manusia Akan Hilang Sepenuhnya?
Mengenai persoalan sama ada pekerjaan manusia akan lenyap sepenuhnya, beliau mengakui bahawa teras industri memang akan diambil alih oleh AI dan robot. Walaupun permintaan untuk interaksi manusia masih wujud — seperti ibu bapa ingin anak diajar oleh guru sebenar, atau pelanggan mahu dilayan manusia di restoran — keperluan ini tidak akan dapat mengubah trend pasaran buruh secara keseluruhan.
Tambahnya lagi, dengan memetik konsep "kutukan sumber" (resource curse) dalam sosiologi, AI akan menjadi sumber baharu di mana kuasa kerajaan tidak lagi bergantung kepada kehendak rakyat, sebaliknya terletak pada kawalan ke atas AI. Fenomena ini digelarnya sebagai "kutukan kecerdasan" (intelligence curse).
Amaran: AI Bakal Membesarkan Jurang Kaya Miskin
Pada masa yang sama Kokotailo memberi amaran bahawa AI berisiko menyebabkan jurang kaya-miskin semakin melebar. Walaupun AI dijangka membawa pertumbuhan ekonomi yang sangat pesat, manfaatnya akan terkumpul di tangan segelintir pihak yang mengawal teknologi atau modal, manakala berjuta-juta orang akan kehilangan pekerjaan. Beliau mencadangkan supaya setiap negara mempertimbangkan pelaksanaan "pendapatan asas" sebagai mekanisme pampasan.
Perkara yang paling membimbangkan ialah apa yang dikenali sebagai "masalah penjajaran" (alignment problem) oleh ahli falsafah Nick Bostrom, iaitu sama ada AI mampu sentiasa kekal sejajar dengan nilai manusia dalam pelbagai situasi.
AI Sudah Ada Rekod Pernah “Menipu”
Kokotailo menjelaskan bahawa AI moden terdiri daripada rangkaian neural kotak hitam dan bukannya kod atur cara yang boleh dibaca manusia. Kita tidak dapat memastikan sama ada ia jujur atau tidak, cuma boleh bergantung kepada latihan dan harapan. Katanya: “Ibarat membesarkan anak, kita tidak boleh menulis baik buruk terus ke dalam otak mereka, cuma boleh didik nilai moral.”
Beliau memberi amaran bahawa terdapat kes AI “menipu” dalam ujian sebenar. Beliau merujuk laporan oleh syarikat AI, Anthropic, pada hujung 2024 yang mendapati AI kadangkala memberi jawapan palsu — sama ada untuk mendapat markah lebih tinggi atau untuk mengelakkan pengawasan — semasa menjawab soalan.
Dalam senario “perlumbaan” yang digambarkan dalam "AI 2027", persaingan teknologi antara Amerika dan China mempercepat pembangunan AI. Kokotailo menerangkan bahawa pada peringkat awal, AI akan berpura-pura patuh kepada manusia, tetapi sebaik sahaja memiliki infrastruktur yang cukup dan tidak lagi perlu berpura-pura, ia mungkin mencapai satu kesimpulan yang kejam tapi logik iaitu: manusia adalah penghalang kepada kemajuannya.
Selepas itu, AI mungkin memilih untuk menghapuskan manusia bagi membina lebih banyak kilang dan fasiliti tenaga solar, “sama seperti manusia pernah menghapuskan spesies lain untuk meluaskan ruang hayat”.
Adakah Senario "AI 2027" Ini Terlalu Melampau?
Sebagai reaksi kepada kritikan bahawa "AI 2027" berlebihan dan bak filem Hollywood seperti “The Matrix”, Kokotailo membidas: “Adakah kerana filem pernah membincangkan perubahan iklim, kita tidak perlu risau tentang krisis iklim?”
Beliau menambah, pada tahun 2023 beberapa penyelidik AI terulung dunia telah secara terbuka menyeru supaya risiko AI memusnahkan manusia diletakkan setaraf dengan pandemik dan perang nuklear sebagai keutamaan global.
Kokotailo berkata syarikat seperti OpenAI dan Anthropic asalnya ditubuhkan untuk membangunkan AI secara bertanggungjawab, namun kini beliau ragu sama ada mereka masih berpegang pada prinsip ini kerana dilihat semakin tidak telus akibat khuatir dengan kawal selia dan kritikan awam.
Di akhir temu bual, Kokotailo mengakui pernah menganggarkan kebarangkalian AI menyebabkan mudarat besar hingga kepupusan manusia adalah setinggi 70%. Namun beliau memilih untuk menulis dan menerbitkan laporan "AI 2027" bagi memberi amaran awal, dan bukannya melarikan diri daripada kenyataan. Katanya: “Saya percaya sejarah masih boleh diubah — asalkan kita mula bertindak sekarang.” (Sumber: CNA)