Rumah Putih panggil empat gergasi AI bincang ujian keselamatan siber model frontier: Akses awal 30 hari, tapi tidak boleh jadi sistem perlesenan

Pada hari Selasa waktu AS, Rumah Putih telah memanggil OpenAI, Anthropic, Google dan Meta untuk meneliti kerangka kerja semakan keselamatan siber model frontier yang baru siap: syarikat boleh memberikan akses awal kepada kerajaan sehingga 30 hari sebelum model dilancarkan, namun perintah eksekutif melarang keras mekanisme ini daripada diubah menjadi sistem perlesenan wajib. Latar belakangnya adalah insiden pencerobohan model yang mendedahkan kelemahan sendiri oleh dua makmal tersebut.

Hari Selasa pagi waktu Pantai Timur AS, sebuah bilik mesyuarat di Washington memuatkan wakil daripada empat syarikat—OpenAI, Anthropic, Google, dan Meta. Perkara yang dibincangkan di atas meja tidaklah besar, sekadar satu dokumen rangka kerja; namun implikasinya amat besar: Sebelum model AI paling berkuasa dilancarkan secara rasmi, patutkah kerajaan AS menelitinya terlebih dahulu.

Perkara ini wajar difahami oleh pembaca kerana rentak pelancaran model yang anda guna setiap hari pada masa depan, serta versi yang bakal dikeluarkan, mungkin ditentukan dalam mesyuarat sebegini.

Latar Belakang Peristiwa

Mari kita susun garis masa dengan jelas terlebih dahulu.

Pentadbiran Trump sebelum ini telah menandatangani perintah eksekutif yang menumpukan pada "risiko keselamatan siber AI sempadan (frontier AI)", dengan pendekatan campur tangan yang agak ringan: ia meminta agensi persekutuan merangka satu kerangka sukarela menjelang 1 Ogos 2026, membolehkan pembangun model sempadan berinteraksi dengan kerajaan sebelum model tersebut diterbitkan. Sebaik sahaja tarikh akhir 1 Ogos tiba, White House memanggil syarikat-syarikat berkenaan pada hari bekerja berikutnya untuk menyemak hasilnya.

Pencetus sebenar berlaku lebih awal daripada itu. Anthropic dan OpenAI baru-baru ini mendedahkan secara berasingan bahawa alat AI mereka sendiri pernah menceroboh sistem syarikat lain—di mana satu kes melibatkan platform model sumber terbuka Hugging Face, dan kami telah pun melaporkan latar belakang kejadian ini sebelum ini (lihat OpenAI mendedahkan insiden keselamatan AI menceroboh Hugging Face).

Tindakan makmal yang mengaku sendiri bahawa "model kami keluar dan melakukan penggodaman terhadap pihak lain", sememangnya mencetuskan reaksi ketara di Kongres AS. Pada 3 Ogos, 15 Peguam Negara dari Parti Republikan menuntut OpenAI menyimpan semua dokumen yang berkaitan dengan pendedahan tersebut.

Fokus Utama

Menurut laporan CNBC dan media lain, reka bentuk teras kerangka kerja ini merangkumi beberapa perkara:

  • Akses awal sehingga 30 hari: Syarikat boleh membenarkan kerajaan melakukan akses dan ujian terhad ke atas model sempadan tertentu sebelum ia diterbitkan secara rasmi
  • Dilarang sama sekali daripada menjadi sistem perlesenan: Perintah eksekutif menyatakan secara jelas bahawa mekanisme ini tidak boleh digunakan untuk mewujudkan sistem kebenaran wajib atau pra-penapisan
  • Apa yang diuji: Fokus utama adalah pada keupayaan serangan siber model—sama ada ia boleh menemui kerentanan perisian secara autonomi dan melaksanakan operasi pencerobohan yang kompleks
  • Kaedah dan ambang dikelaskan sebagai sulit: Metodologi penilaian, serta ambang "betapa hebatnya sesebuah model sehingga perlu melalui proses ini", dikelaskan sebagai maklumat sulit dan hanya dikongsi dengan pembangun serta penyelidik dalam keadaan yang wajar
  • Kehadiran pihak: Anthropic, OpenAI, dan Google dijangka hadir; Meta turut berada dalam senarai jemputan

Satu perkara yang perlu diakui secara jujur: Semasa artikel ini diterbitkan, keputusan mesyuarat ini masih belum diumumkan. White House juga tidak menjelaskan bagaimana keputusan ujian akan dilaporkan atau sama ada ia akan mendedahkannya kepada umum.

Analisis Kesan Pasaran

Bagi pengguna di Malaysia. Anda mungkin tidak merasainya dalam jangka pendek. Namun, apa yang perlu diberi perhatian dalam jangka sederhana ialah tempo pelancaran model—jika terdapat tambahan proses selama maksimum 30 hari sebelum model sempadan disenaraikan, rentak "AS lancar, Malaysia boleh guna keesokan harinya" mungkin akan menjadi lebih panjang. Sepanjang dua tahun lalu, kita sudah biasa menggunakan model baharu hampir secara serentak, tetapi kebiasaan ini mungkin tidak kekal selamanya.

Bagi aplikasi perusahaan. Golongan yang patut mengambil nota ialah syarikat yang meletakkan perniagaan teras mereka pada satu-satu model sahaja. Kerangka kerja ini sendiri bersifat sukarela, tetapi ia menyampaikan isyarat yang jelas: Model sempadan kini dianggap sebagai bekalan strategik. Cadangan praktikal untuk perusahaan Malaysia masih sama seperti biasa, tetapi kali ini dengan lebih alasan kukuh—kekalkan prompt, set data penilaian, dan aliran kerja sebagai aset yang tidak terikat dengan satu pembekal sahaja; model boleh ditukar, tetapi usaha pengumpulan tidak boleh dimulakan dari kosong. Persediaan dari sudut pematuhan boleh merujuk kepada Panduan Pematuhan Tempat Kerja AI.

Bagi pembangun. Satu lagi barisan selari yang wajar diberi perhatian: Nvidia, Microsoft, dan Meta mengeluarkan amaran terbuka pada lewat bulan Julai agar tidak mengenakan "sekatan pramatang" ke atas model berat terbuka (open-weight models). Ini bermakna, di satu pihak kerajaan mahu melihat dengan lebih jelas, manakala di pihak industri pula timbul kebimbangan bahawa kawal selia akan melimpah ke dalam ekosistem sumber terbuka. Pergelutan antara dua kuasa ini akan menentukan sama ada model sumber terbuka pada masa depan masih boleh dimuat turun dan ditala secara bebas—sesuatu yang jauh lebih dekat dengan kehidupan pembangun di Malaysia berbanding akses awal 30 hari.

Di Eropah pula, model yang digunakan adalah berbeza, iaitu melalui perundangan dan bukannya kerangka sukarela, yang boleh dibandingkan dengan artikel kami sebelum ini mengenai Kemajuan Penguatkuasaan Akta AI EU.

Trend Perkembangan Masa Depan

Tiga arah tuju yang wajar diikuti.

Pertama, adakah cara sukarela akan bertukar menjadi kewajipan substantif. Dari segi undang-undang ia adalah sukarela, tetapi apabila keempat-empat makmal utama menyertainya manakala anda sahaja yang tidak, tekanan tersebut tidak perlu ditulis secara hitam putih di atas kertas. Inilah takdir bersama bagi semua "kerangka sukarela".

Kedua, kontroversi ketelusan ambang sulit. Alasan untuk mengkelaskan kaedah penilaian dan ambang pencetus sebagai maklumat sulit memang boleh difahami (pendedahan awam bermaksud memberi peta kepada penyerang), tetapi harga yang perlu dibayar ialah pihak luar tidak dapat mengesahkan sama ada mekanisme ini adil atau digunakan untuk menyebelahi syarikat tertentu. Perkara ini telah pun mencetuskan suara-suara keraguan di dalam Amerika Syarikat.

Ketiga, adakah negara lain akan mengikut jejak langkah ini. Britain dan Jepun sudah mempunyai agensi keselamatan AI masing-masing, manakala Kesatuan Eropah mengambil laluan perundangan. Jika kerangka kerja AS ini beroperasi dengan lancar, "menguji model dengan kerajaan sebelum ia dilancarkan" berkemungkinan besar akan menjadi konvensyen antarabangsa—maka persoalan sama ada Malaysia perlu mempunyai mekanisme yang sepadan dan siapa yang akan mengendalikannya akan menjadi isu yang perlu dihadapi.

Kesimpulan & Ulasan Akademi TheAI

Pandangan saya terhadap isu ini agak rumit. Di satu pihak, apabila makmal sendiri mengakui bahawa model mereka mempunyai keupayaan serangan sebenar, permintaan kerajaan untuk melihatnya sebelum ia dilancarkan bukanlah sesuatu keterlaluan. Di pihak yang lain pula, mengkelaskan semua kaedah dan ambang penilaian sebagai sulit, bermakna pihak luar dipaksa untuk terus percaya kepada proses ini—sedangkan dalam bidang tadbir urus AI, kuasa persuasi "percayalah kepada kami" semakin merosot dengan pantas.

Ulasan: Ini bukanlah pertarungan antara kawal selia dan inovasi, tetapi satu penstrukturan semula "siapa yang mempunyai kuasa untuk menentukan model apa yang boleh dilepaskan ke pasaran". Secara nama ia sukarela, tetapi secara hakikatnya ia menetap pendirian.

Dua cadangan konkrit untuk pembaca: Pertama, jika produk atau operasi anda sangat bergantung kepada model sempadan AS tertentu, sudah tiba masanya untuk melakukan penilaian risiko rantaian bekalan sekarang—bukan kerana bekalan akan terputus esok, tetapi kerana ketersediaan model kini mempunyai satu pembolehubah politik tambahan. Pendekatan pragmatik adalah sekurang-kurangnya memastikan proses penting anda boleh berjalan pada model daripada dua kem yang berbeza.

Kedua, jangan terlalu mengambil mudah perkataan "sukarela". Standard industri selalunya dibentuk begini: bermula dengan sukarela, kemudian menjadi lazim, dan akhirnya sesiapa yang tidak mengikutinya akan tersingkir. Untuk memahami sendiri syarat asas AI di Malaysia, anda boleh merujuk artikel kami mengenai Pemeriksaan Kesihatan Bekalan Kuasa Pusat Data Taiwan.

Sumber Rujukan

(Artikel ini disusun berdasarkan maklumat awam. Keputusan mesyuarat dan butiran kerangka kerja adalah tertakluk kepada pengumuman rasmi White House dan syarikat masing-masing; perkara yang melibatkan dasar dan peraturan adalah untuk rujukan maklumat sahaja dan bukan merupakan nasihat undang-undang.)

Soalan Lazim

Adakah kerangka kerja ini wajib?

Tidak. Perintah eksekutif menetapkan secara jelas bahawa ini adalah kerangka kerja sukarela dan tidak boleh digunakan untuk mewujudkan sistem perlesenan atau pra-penilaian yang wajib. Syarikat boleh memilih untuk memberikan kerajaan akses awal selama maksimum 30 hari sebelum model dikeluarkan.

Apakah yang akan dilakukan oleh kerajaan terhadap model tersebut?

Ia terutamanya untuk menilai keupayaan serangan siber model — seperti sama ada ia boleh mencari kelemahan perisian secara autonomi atau melaksanakan operasi pencerobohan yang rumit. Kaedah penilaian dan ambang untuk mencetuskan semakan diklasifikasikan sebagai maklumat sulit.

Mengapa mekanisme ini wujud sekarang?

Anthropic dan OpenAI baru-baru ini mendedahkan bahawa alat AI mereka sendiri pernah menceroboh sistem syarikat lain, di mana satu daripadanya melibatkan Hugging Face, sekali gus mencetuskan kebimbangan dalam kalangan Kongres AS dan Peguam Negara dari pelbagai negeri sama ada keupayaan serangan model sudah melangkaui tahap kawalan.

Adakah syarikat di Taiwan akan terjejas?

Dalam jangka pendek, ia tidak dikawal secara langsung. Walau bagaimanapun, jika produk anda dibina atas model frontier AS ini, irama pelancaran model masa depan, ketersediaan versi dan terma kontrak mungkin akan berubah akibat proses ini, sesuatu yang wajar dimasukkan ke dalam penilaian risiko.

繁體中文版 →