Selepas kamera litar tertutup belajar memahami paparan: siapa yang membayar bil privasi AI keselamatan fizikal

Seorang kawan yang menjadi ketua pengawal keselamatan di sebuah bangunan pejabat komersial di Kuala Lumpur pernah memberitahu saya bahawa yang paling ditakutinya bukan ada orang menceroboh masuk, tetapi dinding pemantauan enam belas petak itu. "Merenungnya selama setengah jam, mata mula mengembara. Ada sesuatu bergerak, anda pun tidak pasti sama ada manusia atau papan tanda ditiup angin."

Maka pendekatan mereka sangat praktikal: matikan bunyi amaran, bergantung pada rondaan.

Lonjakan pengawasan video AI beberapa tahun ini pada asasnya menyelesaikan masalah ini — membiarkan mesin melakukan perkara yang manusia tidak dapat lakukan dengan baik. Tetapi apabila kamera litar tertutup beralih daripada "merakam untuk rujukan" kepada "memahami dan bertindak balas secara aktif", satu set masalah yang asalnya tidak wujud turut tumbuh bersama.

Latar belakang isu

Perubahan pada aspek teknologi amat mendadak dalam dua tahun kebelakangan.

Lumana menggunakan model pemahaman imej kembangan sendiri VIA-1, memecahkan fungsinya kepada empat ejen: pemantauan, tindak balas, siasatan dan wawasan; secara rasmi mendakwa amaran palsu boleh dikurangkan sehingga 90%, kini digunakan pada lebih 50,000 kamera, dengan pelanggan termasuk Meta, Salesforce dan McDonald's. Coram AI mengetengahkan carian bahasa semula jadi — anda menerangkan imej yang dicari dengan satu ayat, dan sistem mendapatkan cebisannya dalam beberapa saat, menggantikan cara asal memutar laju sepanjang rakaman.

Ambient.ai mengambil pendekatan model bahasa penglihatan; secara rasmi mendakwa model Pulsar-nya mempunyai lebih 150 ciri ancaman yang telah disahkan, dan menyilangkan data imej dengan data kawalan akses untuk mengesahkan kesahihan amaran, mendakwa dapat menghapuskan lebih 95% amaran palsu. HiveWatch pula tidak mengendalikan imej itu sendiri, sebaliknya menyatukan kawalan akses, pemantauan dan penderia yang berselerak menjadi satu meja perintah tunggal, dengan angka rasmi amaran palsu berkurang 90% dan kejadian diselesaikan dalam purata 22 saat.

Yang paling menarik perhatian ialah Flock Safety. Syarikat yang bermula dengan pengecaman nombor plat ini menyempurnakan pusingan F bernilai USD 275 juta yang diterajui a16z pada Mac 2025, dengan penilaian USD 7.5 bilion, dan meningkat lagi kepada USD 8.4 bilion pada April 2026. Ia juga syarikat yang paling hebat dikecam oleh kumpulan privasi dalam bidang ini.

Sorotan utama

• Daripada rakaman pasif kepada pemahaman aktif — inilah lonjakan terbesar industri keselamatan dalam dua puluh tahun.
• Carian bahasa semula jadi ialah ciri dengan perbezaan pengalaman paling ketara — mendapatkan rakaman berubah daripada memutar rakaman kepada penentududukan kata kunci.
• Kunci penurunan mendadak kadar amaran palsu bukan model menjadi lebih kuat, tetapi pengenalan pengesahan silang pelbagai sumber (imej + kawalan akses).
• Semakin kuat kemampuannya, semakin tinggi risiko privasinya. Pengecaman wajah dan pengumpulan trajektori kenderaan kedua-duanya kawasan sensitif di Malaysia.
• Kontroversi skala pengawasan bukan pada penggunaan tunggal, tetapi pada pengumpulan jangka panjang — inilah teras kritikan terhadap Flock Safety.

Analisis kesan pasaran

Untuk pengguna di Malaysia

Mari perjelas dahulu satu perkara: senarai fungsi sistem ini disusun mengikut permintaan pasaran Amerika. Pengesanan senjata api, tindak balas penyerang aktif di sekolah, perkongsian nombor plat merentas agensi — perkara ini di Malaysia bukan tidak terpakai, malah tidak boleh digunakan.

Yang sepatutnya dinilai oleh perusahaan di Malaysia ialah beberapa perkara lain: analisis tingkah laku keselamatan pekerjaan, pencegahan kerugian dan pengesanan tingkah laku tidak normal, kecekapan mendapatkan rakaman selepas kejadian, serta pengurusan berpusat pelbagai lokasi. Nilai beberapa perkara ini di sini terbukti sepenuhnya, dan pulangan pelaburannya mudah dikira.

Tetapi pengecaman wajah perlu diberi perhatian khusus. Wajah tergolong dalam data peribadi sensitif di bawah PDPA, dan pengumpulannya memerlukan tujuan sah yang jelas serta pemenuhan kewajipan pemberitahuan. Secara praktikal, penggunaan untuk pengurusan kehadiran pekerja dan penggunaan untuk mengesan orang mencurigakan dari luar mempunyai penilaian perundangan yang berbeza sama sekali; standard bagi tempat awam dan kawasan terkawal juga berbeza. Cadangan saya sangat terus terang: melainkan ada keperluan yang sangat jelas dan penilaian pematuhan yang lengkap, jangan buka pengecaman wajah pada peringkat pertama. Nilai analisis tingkah laku dan pengesanan objek sudah cukup besar, tidak perlu memijak garisan paling sensitif hanya untuk fungsi tambahan yang sedikit itu.

Untuk aplikasi perusahaan

Dari sudut perolehan, kedudukan empat syarikat ini sebenarnya berbeza, dan membandingkannya secara bercampur akan menghasilkan perbandingan yang salah.

Lumana, Coram AI dan Ambient.ai ialah pesaing di hujung imej, mengendalikan "apa yang dilihat kamera". Perbezaan tiga syarikat: carian bahasa semula jadi Coram paling intuitif, Ambient menekankan penaakulan sebab-akibat yang sesuai untuk senario forensik, dan Lumana mengetengahkan pembahagian empat ejen serta keserasian dengan kamera sedia ada.

HiveWatch pula lapisan yang berbeza sama sekali — ia mengendalikan "siapa buat apa selepas amaran masuk". Jika masalah anda ialah pelbagai sistem masing-masing membunyikan amaran dan kakitangan bertugas tidak dapat membezakan keutamaan, maka yang anda perlukan ialah HiveWatch, bukan membeli satu lagi AI imej.

Ada satu lagi kos yang sering diabaikan: sistem ini akan menghasilkan longgokan kejadian, dan secara teori setiap kejadian sepatutnya ada rekod pengendalian. Sebelum pelaksanaan, fikirkan dahulu sama ada pasukan keselamatan anda mempunyai tenaga kerja untuk menampung tiket kerja ini. Sistem menurunkan amaran palsu daripada 400 sehari kepada 40, tetapi 40 itu masih perlu dikendalikan oleh seseorang.

Untuk pembangun

Peluang pasukan tempatan terletak pada senario menegak dan pematuhan.

Data latihan model pembekal antarabangsa tidak mengandungi laluan kaki lima di Malaysia, tiada kekusutan motosikal yang diletak merata, dan tiada kepadatan orang ramai di pasar malam dan pasar tradisional. Model pengesanan untuk senario ini ialah kerja halus yang tidak akan dilaburkan oleh syarikat asing.

Bahagian pematuhan lagi berpeluang. Ketika perusahaan di Malaysia melaksanakan sistem sebegini, yang paling diperlukan sebenarnya ialah satu mekanisme yang dapat membuktikan "kami telah melindungi data peribadi dengan baik": kawalan automatik tempoh pengekalan data, rekod akses yang boleh diaudit, dan penyahkenalan automatik bagi imej tertentu. Fungsi ini biasanya fungsi kedua dalam produk antarabangsa, tetapi di Malaysia mungkin kunci sama ada lulus atau tidak.

Aliran perkembangan masa depan

Aliran pertama ialah model bahasa penglihatan akan menjadi kelengkapan standard. Analisis berasaskan peraturan tradisional gagal apabila menemui situasi yang tidak pernah ditakrifkan, sedangkan model bahasa penglihatan mampu memahami makna paparan dan konteks sebelum dan selepasnya. Kosnya ialah keperluan pengkomputeran yang tinggi, jadi perkakasan pengkomputeran tepi akan turut dinaik taraf — inilah sebabnya hampir setiap syarikat mempromosikan hos tepi masing-masing.

Aliran kedua ialah gabungan pelbagai sumber. Bergantung pada imej semata-mata sukar untuk menilai sama ada seseorang patut berada di situ; dengan menyilangkan kad akses, penderia, malah data jadual syif, barulah kadar amaran palsu dapat ditekan. Ini bermakna sistem keselamatan akan semakin menyerupai platform penyepaduan data, bukan sekadar perisian kamera.

Ketiga, dan yang saya rasa paling penting, ialah peraturan akan menyusul. Undang-undang AI Kesatuan Eropah telah menyenaraikan pengecaman biometrik jarak jauh masa nyata sebagai aplikasi berisiko tinggi yang pada prinsipnya diharamkan, dengan kuasa penguatkuasaan bermula secara rasmi pada 2 Ogos 2026. Malaysia kini tiada undang-undang khusus, tetapi rangka kerja PDPA sedia ada dan tafsiran pihak berkuasa lambat-laun akan memberikan sempadan yang lebih jelas untuk aplikasi sebegini. Sistem yang dilaksanakan sekarang, lebih baik menyediakan ruang penyesuaian ketika mereka bentuknya.

Rumusan dan komen TheAI Academy

Pemerhatian saya terhadap bidang ini ialah: kemampuan berlari lebih pantas daripada peraturan, dan perusahaan sedang berdiri di atas jurang ini.

Dari segi teknikal tiada apa yang perlu diragui; carian bahasa semula jadi, penurunan mendadak amaran palsu, dan penyatuan merentas sistem semuanya kemajuan yang nyata, dan memang menyelesaikan titik kesakitan sebenar industri keselamatan. Dinding pemantauan yang bunyi amarannya dimatikan oleh kawan saya itu ialah sebab kewujudan industri ini.

Tetapi penilaian USD 8.4 bilion Flock Safety, serta kritikan hebat yang ditanggungnya pada masa yang sama, menjelaskan satu perkara lain: kos laluan ini adalah nyata. Teras kontroversi bukan sekali-kali pada kesahihan penggunaan tunggal, tetapi pada apa yang akhirnya terbentuk daripada pengumpulan trajektori pergerakan yang jangka panjang, banyak dan merentas agensi. Soalan ini tiada jawapan mudah, tetapi berpura-pura ia tidak wujud pasti salah.

Komen: AI keselamatan fizikal sudah cukup berguna sehingga rugi jika tidak dipasang, tetapi ia juga tempat perusahaan paling mudah memijak garisan merah data peribadi. Teknologi patut dibeli, penilaian pematuhan jangan dijimatkan — kos itu lebih murah daripada yuran perisian, dan jauh lebih murah daripada denda.

Cadangan konkrit untuk pembaca di Malaysia: jika anda bertanggungjawab atas keselamatan perusahaan, pada peringkat pertama fokus dahulu pada fungsi yang tidak melibatkan pengecaman biometrik — analisis tingkah laku, pengesanan objek dan carian selepas kejadian; nilai tiga perkara ini sudah besar dan risiko perundangannya rendah. Kedua, sebelum pelaksanaan wajib sahkan bersama jabatan undang-undang tentang tujuan pengumpulan, cara pemberitahuan dan tempoh pengekalan, serta tulis tiga perkara ini ke dalam tetapan sistem, bukan sekadar ke dalam dokumen dasar. Ketiga, jika titik kesakitan anda ialah "terlalu banyak amaran, tiada siapa mengendalikan", maka yang patut dicari ialah platform penyatuan, bukan membeli satu lagi sistem pengesanan. Untuk memahami lebih lanjut alat berkaitan, rujuk kategori AI Privasi dan Keselamatan di laman ini, atau lihat topik inventori pematuhan dalam Templat Gesaan AI.

Sumber rujukan

• Laman rasmi Lumana
• Laman rasmi Ambient.ai
• Suruhanjaya Eropah: Rangka kerja penguatkuasaan undang-undang AI

(Artikel ini disusun berdasarkan maklumat awam dan tertakluk pada pendedahan rasmi; sila rujuk nasihat guaman profesional untuk pertimbangan yang melibatkan pematuhan data peribadi.)