Jabatan pemasaran diam-diam menyambung tiga ejen AI, dan IT langsung tidak tahu: AI bayang-bayang sedang menjadi lubang hitam keselamatan siber

Seorang kakitangan keselamatan siber sebuah syarikat e-dagang bersaiz sederhana di Malaysia pernah menggambarkan satu senario kepada saya. Semasa pemeriksaan rutin rekod akses API, dia mendapati satu set kelayakan (credential) sentiasa membaca pangkalan data pesanan pada pukul tiga dinihari, beberapa ratus rekod setiap kali, berterusan selama lebih dua bulan.

Bukan pencerobohan. Itu ialah sebuah ejen AI yang disambungkan oleh jabatan pemasaran tiga bulan lalu, untuk menjana ringkasan jualan harian secara automatik. Kelayakan itu diberikan oleh seorang jurutera pada masa itu supaya "cubalah dulu untuk uji", dan kebenaran yang dibuka ialah baca-sahaja seluruh jadual.

Tiada siapa yang jahat. Tiada siapa yang melanggar peraturan syarikat — kerana syarikat itu memang tiada peraturan sebegini.

Latar belakang isu

Istilah IT bayang-bayang sudah lama wujud: pekerja memintas jabatan IT dan menggunakan alat sendiri, menghantar fail dengan Dropbox peribadi, menukar PDF dengan alat dalam talian percuma. Risikonya nyata, tetapi sempadannya agak jelas — alat itu bersifat pasif; apa sahaja yang anda masukkan, itulah yang diprosesnya.

Ejen AI berbeza, dan perbezaan ini ialah kuncinya. Ejen akan melaksanakan tindakan secara aktif: membaca sistem, memanggil API, menulis data, menghantar mesej. Ia bukan sebuah laman web yang anda sesekali muat naik fail, tetapi sesuatu yang beroperasi berterusan, memegang kelayakan, dan bertindak di dalam sistem anda.

Dan ambang untuk melaksanakannya rendah sehingga sukar dipercayai. Platform kod-rendah kini membolehkan seorang pegawai pemasaran menyambungkan dalam satu petang sebuah ejen yang membaca CRM, menulis laporan dan menghantar mesej Slack. Dia tidak perlukan kelulusan IT, tidak perlukan proses perolehan, malah mungkin tidak merasakan dirinya sedang "melaksanakan sistem" — dia rasa dirinya cuma menetapkan satu automasi.

Masalah ini besar sehingga ada syarikat pemula khusus mengusahakannya. Decawork dari kohort Musim Panas 2026 Y Combinator mengaku dirinya "satah kawalan ejen untuk pasukan IT", mengetengahkan agar jabatan IT dapat menggerak, mentadbir dan menyelenggara keseluruhan ejen AI organisasi pada satu antara muka: perlu kelulusan sebelum beroperasi, kebenaran kelayakan diciutkan ke skop paling minimum, dan semua tindakan dipantau serta ditinggalkan jejak. Syarikat ini diasaskan oleh Aman Raj dan Sarthak Aggarwal pada 2026 di San Francisco, dan pasukannya kini hanya dua orang — skalanya kecil, tetapi arahnya menjelaskan kesahihan masalah tersebut.

Sorotan utama

• Perbezaan penting AI bayang-bayang dengan IT bayang-bayang: ejen melaksanakan tindakan secara aktif, dan bukan memproses secara pasif apa yang anda berikan.
• Ambang pelaksanaan amat rendah, seorang bukan teknikal boleh menyambungkan dalam satu petang sebuah ejen yang memegang kelayakan.
• Risiko terbesar bukan kebocoran data, tetapi akses berterusan yang kebenarannya terlalu besar dan tanpa pengawasan.
• Audit sukar: tingkah laku ejen bersifat dinamik, dan model kebenaran statik tradisional tidak mudah merangkuminya.
• Masalah ini sedang mendapat perhatian pengawal selia, dan keperluan kebolehauditan undang-undang AI Kesatuan Eropah akan mempercepat perusahaan menanganinya.

Analisis kesan pasaran

Untuk pengguna di Malaysia

Mari berlaku adil dahulu: pekerja yang menyambung ejen AI sendiri biasanya golongan paling proaktif dalam pasukan. Mereka bukan merosakkan peraturan, tetapi menyelesaikan masalah sendiri, dan selalunya menyelesaikannya dengan baik.

Maka prinsip pertama menangani AI bayang-bayang ialah: jangan tangani dengan cara melarang. Sebaik anda melarang, perkara ini hanya akan berpindah ke bawah tanah — ejen yang asalnya masih di bawah akaun syarikat akan dipindahkan ke akaun peribadi, dan menjadi lebih sukar dijejak.

Pendekatan praktikal ialah menyediakan satu laluan yang sah. Beritahu rakan sekerja dengan jelas: anda boleh menggunakan ejen, tetapi mesti didaftarkan, mesti melalui satu semakan ringkas, dan mesti menggunakan kelayakan yang diberikan IT dan bukan meminta daripada jurutera. Kurangkan geseran ke tahap minimum supaya mematuhi lebih mudah daripada melanggar; ini lebih berkesan daripada mana-mana dokumen dasar.

Untuk aplikasi perusahaan

Dari sudut pengurusan risiko perusahaan, bahaya AI bayang-bayang dipandang rendah secara sistematik, dengan tiga sebab.

Pertama, kebenaran hilang kawalan. Kelayakan biasanya diberikan secara sementara, dengan fikiran "uji dahulu" ketika memberikannya, dan selepas ujian selesai tiada siapa kembali menariknya. Dan ejen AI, supaya dapat menangani pelbagai keadaan, sering diberi kebenaran yang lebih besar daripada keperluan sebenar — baca-sahaja seluruh jadual lebih mudah daripada memberi kebenaran satu demi satu, maka diberilah baca-sahaja seluruh jadual.

Kedua, aliran data tidak jelas. Ejen itu di belakangnya menyambung model syarikat mana? Adakah data keluar dari negara? Adakah ia digunakan untuk latihan? Orang yang melaksanakannya kebanyakannya tidak pernah bertanya soalan ini, kerana antara muka tidak memaparkannya.

Ketiga, dan yang paling menyusahkan: tiada jejak audit. Apabila pada suatu hari perlu menjawab "adakah data pelanggan kami diakses secara tidak wajar", jika ejen itu disambung sendiri oleh jabatan, anda tidak tahu pun hendak mula menyiasat dari mana.

Langkah pertama secara praktikal bukan membeli alat, tetapi membuat inventori. Dengan cara paling tradisional: semak rekod pengeluaran kunci API, semak corak akses tidak normal pangkalan data, semak bil langganan SaaS setiap jabatan, dan tanya terus ketua setiap jabatan "adakah kamu ada menggunakan apa-apa alat yang buat kerja secara automatik". Senarai ini biasanya mengejutkan orang.

Selepas inventori selesai barulah penggredan: ejen mana yang menyentuh data peribadi, mana yang boleh menulis dan bukan sekadar membaca, mana yang boleh menghantar mesej ke luar. Yang menyentuh data peribadi serta boleh menulis serta boleh menghantar keluar ialah yang berisiko paling tinggi, utamakan penanganannya.

Untuk pembangun

Bagi pasukan kejuruteraan, pengajaran paling praktikal ialah: pengeluaran kelayakan mesti mempunyai kitaran hayat.

"Beri kamu uji dahulu" ialah titik permulaan semua masalah. Pendekatan munasabah ialah setiap kelayakan sementara mesti mempunyai tarikh luput, tamat sendiri apabila masanya tiba, dan perlu memohon semula jika mahu dilanjutkan. Perkara ini tidak sukar dari segi teknikal; yang sukar ialah tabiat.

Satu lagi yang perlu dibina ialah nilai lalai kebenaran paling minimum. Jika ejen mahu membaca data pesanan, berikan kebenaran baca-sahaja data pesanan, bukan seluruh pangkalan data. Ini kedengaran asas keselamatan siber, tetapi paling kerap dilangkau di bawah tekanan "cepatkan supaya ia berjalan".

Saya juga menyarankan menganggap log tingkah laku ejen sebagai warga kelas pertama ketika reka bentuk. Apa yang dilakukan ejen, apa yang diaksesnya, apa yang dikeluarkannya — jika ini tidak disimpan sejak reka bentuk, mustahil ditambah semula selepas kejadian. Keperluan kebolehauditan undang-undang AI Kesatuan Eropah sedang menolak perkara ini daripada amalan terbaik kepada syarat wajib.

Aliran perkembangan masa depan

Pertama, tadbir urus ejen akan menjadi bidang lanjutan IAM (pengurusan identiti dan akses). Alat pengurusan kebenaran sedia ada direka untuk manusia dan aplikasi, sedangkan corak tingkah laku ejen berada di antara kedua-duanya — ia beroperasi berterusan seperti aplikasi, tetapi membuat pertimbangan yang tidak dapat diramal seperti manusia. Ruang kosong ini akan diisi, mungkin melalui pengambilalihan syarikat pemula oleh syarikat besar keselamatan siber sedia ada.

Kedua, "identiti ejen" akan menjadi konsep yang jelas. Sepertimana akaun perkhidmatan (service account) dahulu berpecah daripada akaun manusia, ejen memerlukan jenis identitinya sendiri, model kebenarannya sendiri dan pengurusan kitaran hayatnya sendiri.

Ketiga, peraturan akan mempercepat hal ini. Apabila perusahaan mesti membuktikan kepada pihak berkuasa apa yang telah dilakukan sistem AI-nya, ejen yang tiada siapa tahu kewujudannya akan menjadi risiko yang tidak tertanggung. Tekanan pematuhan sering lebih berkesan menggerakkan belanjawan daripada amaran keselamatan siber.

Rumusan dan komen TheAI Academy

Saya ingin katakan dahulu satu ayat yang mungkin tidak begitu popular: tanggungjawab perkara ini bukan pada pekerja yang menyambung ejen sendiri.

Apabila syarikat tidak menyediakan laluan yang sah, tidak menjelaskan peraturan, dan tiada sesiapa memberitahu anda apa masalahnya "memberi satu set kelayakan baca-sahaja seluruh jadual kepada perkhidmatan luar", tindakan pekerja menyelesaikan masalah dengan cara sendiri adalah tingkah laku yang sepenuhnya munasabah. Tanggungjawab terletak pada organisasi yang tidak mengejar kelajuan perubahan alat.

Penilaian saya terhadap masalah ini: ia belum meletup sekarang, tetapi sedang terkumpul. AI bayang-bayang dalam kebanyakan perusahaan masih pada peringkat yang agak tidak berbahaya seperti "membantu menjana laporan", tetapi kemampuan ejen semakin kuat setiap bulan, dan set kelayakan yang sama tahun depan mungkin bukan sekadar membaca data lagi.

Masa untuk menanganinya ialah sekarang, sementara senarai masih dapat diinventorikan.

Komen: AI bayang-bayang bukan masalah disiplin pekerja, tetapi jurang tadbir urus organisasi. Melarang tiada guna, dan satu-satunya cara berkesan ialah menurap laluan mematuhi supaya lebih mudah dilalui daripada melanggar.

Cadangan konkrit untuk pembaca di Malaysia: jika anda bertanggungjawab atas IT atau keselamatan siber syarikat, buat tiga perkara bulan ini. Pertama, inventori — semak rekod pengeluaran kunci API, corak akses tidak normal pangkalan data dan bil SaaS setiap jabatan, dan hasilkan satu senarai ejen. Kedua, ciutkan kelayakan — tetapkan tarikh luput bagi semua kelayakan sementara, dan ciutkan kebenaran semua ejen ke skop paling minimum. Ketiga, buka satu saluran yang sah — reka satu borang pendaftaran yang boleh diisi dalam lima minit supaya rakan sekerja sudi melaporkannya secara sukarela. Bagi alat tadbir urus, produk seperti Decawork mempunyai arah yang betul tetapi pasukannya hanya dua orang dan baru ditubuhkan tahun ini; pada peringkat ini disyorkan memahami masalahnya dahulu dan memerhatikannya dalam skop kecil, jangan tergesa-gesa menyerahkan kunci syarikat anda. Untuk memahami lebih banyak alat berkaitan, lihat kategori Rangka Kerja Pembangunan AI dan Infrastruktur di laman ini, atau rujuk Panduan Tugasan AI.

Sumber rujukan

• Decawork (halaman syarikat Y Combinator)
• Suruhanjaya Eropah: Rangka kerja penguatkuasaan undang-undang AI

(Artikel ini disusun berdasarkan maklumat awam; senario kes ialah gubahan semula selepas menggabungkan pelbagai temu bual dan tidak merujuk kepada mana-mana syarikat tertentu.)