Microsoft ត្រៀមបញ្ចេញ Project Perception៖ សង្គ្រាម «តម្លៃដើម» ផ្នែកសន្តិសុខស៊ីនធឺណិត AI កំពុងតែត្រូវបើកឆាក

ម៉ោង២យប់ បុគ្គលិកផ្នែកប្រតិបត្តិការសន្តិសុខ (Security Operations) នៃក្រុមហ៊ុនហិរញ្ញវត្ថុមួយក្នុងតៃវ៉ាន់ បានទទួលសារជូនដំណឹងថា កញ្ចប់កូដភាគីទីបី (Third-party package) មួយត្រូវបានគេរកឃើញកំហុសឆ្គង (Vulnerability) ដែលអនុញ្ញាតឱ្យមានការប្រតិបត្តិការពីចម្ងាយ (Remote Execution)។ រឿងដំបូងដែលគាត់ត្រូវធ្វើ គឺមិនមែនជួសជុលវាភ្លាមៗទេ ប៉ុន្តែត្រូវពិនិត្យមើលជាមុនសិន — ថាតើក្រុមហ៊ុនមានប្រព័ន្ធចំនួនប៉ុន្មានដែលកំពុងប្រើប្រាស់កញ្ចប់កូដនេះ។ សកម្មភាព «ពិនិត្យ» នេះ កាលពីអតីតកាលច្រើនតែត្រូវចំណាយពេលពីរទៅបីថ្ងៃ។

ការងារលំបាកបែបនេះហើយ គឺជាបញ្ហាដែលការប្រណាំងប្រជែងអាវុធសន្តិសុខស៊ីនធឺណិត AI ជុំនេះចង់ដោះស្រាយ។យោងតាមរបាយការណ៍ផ្តាច់មុខរបស់ The Information បានឱ្យដឹងថា Microsoft កំពុងត្រៀមខ្លួនចូលរួមលេងក្នុងទីផ្សារនេះហើយ។

បរិបទព្រឹត្តិការណ៍

ដើម្បីយល់ថាហេតុអ្វីបានជា Project Perception ក្លាយជាព័ត៌មានដ៏ធំ យើងត្រូវបន្តដំណើរថយក្រោយទៅខែមេសា។ Anthropic បានបង្ហាញខ្លួនគំរូសន្តិសុខស៊ីនធឺណិតកម្រិតខ្ពស់មួយដែលមានកូដឈ្មោះថា Claude Mythos កាលពីថ្ងៃទី 7 ខែមេសា ដែលនៅក្នុងការធ្វើតេស្តវាបានរកឃើញដោយស្វ័យប្រវត្តិនូវរន្ធប្រហោងកម្មវិធីរាប់ពាន់ដែលគ្មាននរណាម្នាក់ធ្លាប់រកឃើញពីមុនមក រួមទាំងរន្ធប្រហោងគាំងពីចម្ងាយដែលមានអាយុកាល ២៧ ឆ្នាំនៅក្នុង OpenBSD និងរន្ធប្រហោងអាយុកាល ១៦ ឆ្នាំនៅក្នុង FFmpeg ដែលបានរួចផុតពីការធ្វើតេស្តស្វ័យប្រវត្តិរាប់លានដងដោយមិនត្រូវបានចាប់បាន។ អ្វីដែលកាន់តែសំខាន់នោះគឺ វាមិនត្រឹមតែរកឃើញរន្ធប្រហោងប៉ុណ្ណោះទេ ថែមទាំងអាចសរសេរកូដវាយប្រហារដែលប្រើប្រាស់បានដោយខ្លួនឯងទៀតផង។

Anthropic មិនបានបញ្ចេញ Mythos ជាសាធារណៈទេ ប៉ុន្តែបានប្រកាសក្នុងពេលដំណាលាគ្នានូវ Project Glasswing — ដែលជាគម្រោងការពារផ្អែកលើការ διοχετεύσεις សមត្ថភាពនេះទៅកាន់ «ការជួសជុលកម្មវិធីសំខាន់ៗ» ដោយមានដៃគូស្ថាបនិក រួមមាន AWS, Apple, Broadcom, Cisco, CrowdStrike, Google, JPMorganChase, Linux Foundation, Microsoft, NVIDIA និង Palo Alto Networks ។ យើងបានសរសេរអំពីចំណុចនេះរួចហើយនៅក្នុងអត្ថបទ 〈Anthropic Project Glasswing និង Mythos〉។ SecurityWeek ក៏បានរាយការណ៍ជាបន្តបន្ទាប់ផងដែរថា ទីភ្នាក់ងារសន្តិសុខអ៊ីនធឺណិត និងហេដ្ឋារចនាសម្ព័ន្ធអាមេរិក (CISA) កំពុងប្រើប្រាស់ Mythos ដើម្បីស្កេនកម្មវិធីរបស់រដ្ឋាភិបាលរួចទៅហើយ។

នៅពេលដែលសមត្ថភាពមានស្រាប់ហើយ បញ្ហាបានក្លាយទៅជារឿងលុយវិញម្តង។ ការប្រើប្រាស់គំរូ (Model) ដែលខ្លាំងបំផុតដើម្បីរត់ស្កេនរកកំហុសឆ្គង គឺមានតម្លៃដើមខ្ពស់ខ្លាំងណាស់ ដែលមានតែរដ្ឋាភិបាល និងស្ថាប័នហិរញ្ញវត្ថុខ្នាតធំប៉ុណ្ណោះដែលអាចលេងរួច។

ចំណុចសំខាន់ៗនៃព្រឹត្តិការណ៍នេះ

• របាយការណ៍ផ្តាច់មុខរបស់ The Information បានបង្ហាញថា Microsoft កំពុងអភិវឌ្ឍឧបករណ៍សន្តិសុខស៊ីនធឺណិត AI ដែលមានកូដឈ្មោះថា Project Perception ហើយអាចនឹងបង្ហាញខ្លួនជាផ្លូវការយ៉ាងលឿនបំផុតគឺក្នុងខែនេះ។
• ស្នូលគឺការកំណត់เส้นทางគំរូពហុ (Multi-model routing)៖ មិនមែនចងជាប់ជាមួយគំរូតែមួយទេ ប៉ុន្តែត្រូវបែងចែកទៅតាមកម្រិតពិបាកនៃភារកិច្ចសន្តិសុខនីមួយៗ ទៅឱ្យគំរូរបស់ Microsoft ផ្ទាល់, OpenAI ឬ Anthropic។
• ផ្តោតសំខាន់លើតម្លៃដើម៖ រក្សាទុកគំរូកម្រិតកំពូលដែលមានតម្លៃថ្លៃបំផុត សម្រាប់តែជំហានហេតុផល (Reasoning) ដែលពិតជាត្រូវការប៉ុណ្ណោះ ដើម្បីទម្លាក់តម្លៃមធ្យមនៃ «របាយការណ៍រន្ធប្រហោងនីមួយៗ» ឱ្យទាបជាងមុន។
• ទីតាំងច្បាស់លាស់៖ ប្រព័ន្ធផ្សព្វផ្សាយបរទេសភាគច្រើនបកស្រាយវាថាជា ដំណោះស្រាយជំនួសដែលមានតម្លៃទាបសម្រាប់ Anthropic Mythos។
• ចំណុចសំខាន់ប៉ុន្តែច្រើនតែត្រូវគេមើលរំលង៖ Microsoft ផ្ទាល់គឺជាដៃគូស្ថាបនិករបស់ Project Glasswing — ដែលមានន័យថា ពួកគេចូលរួមក្នុងសម្ព័ន្ធភាពផង និងបង្កើតផលិតផលប្រកួតប្រជែងផ្ទាល់ខ្លួនផង។

ត្រូវតែបញ្ជាក់ឱ្យបានច្បាស់លាស់ថា៖ Project Perception មិនទាន់ត្រូវបានប្រកាសជាផ្លូវការដោយ Microsoft នៅឡើយទេ គ្មានកំណែ beta ជាសាធារណៈឱ្យចុះឈ្មោះទេ ហើយតម្លៃក៏មិនទាន់កំណត់ច្បាស់លាស់ដែរ។ អ្វីទាំងអស់ខាងលើគឺមកពីរបាយការណ៍របស់ប្រព័ន្ធផ្សព្វផ្សាយ ហើយ Microsoft មិនទាន់បានបញ្ជាក់ទេ។ ដូច្នេះ សូមចាត់ទុកវាជាសញ្ញានៃនិន្នាការឧស្សាហកម្ម ជាជាងផលិតផលដែលអាចសរសេរដាក់ចូលក្នុងគម្រោងការទិញចូល (Procurement) ក្នុងឆ្នាំនេះ។

ការវិភាគផលប៉ះពាល់ទីផ្សារ

សម្រាប់អ្នកប្រើប្រាស់នៅតៃវ៉ាន់៖ មនុស្សទូទៅប្រហែលជាមិនអាចប៉ះពាល់ឧបករណ៍កម្រិតសហគ្រាសបែបនេះក្នុងរយៈពេលខ្លីទេ ប៉ុន្តែវានឹងមានផលប៉ះពាល់ដោយប្រយោលដល់អ្នក។ ប្រព័ន្ធប្រតិបត្តិការ និងកម្មវិធីរុករក (Browser) ដែលកំពុងដំណើរការលើទូរស័ព្ទ និងកុំព្យូទ័ររបស់អ្នក គឺជាគោលដៅស្កេនអាទិភាពរបស់អ្នកប្រមាញ់រន្ធប្រហោង AI ទាំងនេះ។ បកស្រាយជាភាសាងាយយល់៖ ការអាប់ដេតក្នុងរយៈពេលមួយ ឬពីរឆ្នាំខាងមុខនេះអាចនឹងកើតមានញឹកញាប់ជាងមុន ហើយការអាប់ដេតតូចៗដែលមើលទៅហាក់ដូចជាគ្មានហេតុផលច្បាស់លាស់ អាចនៅเบื้องក្រោយគឺជាកំហុសឆ្គងចាស់ៗដែលត្រូវបានរកឃើញដោយ AI។ ការអាប់ដេតណាដែលគួរដំឡើង សូមដំឡើងវាចុះ នេះគឺជាអត្ថន័យជាក់ស្តែងបំផុតនៃព័ត៌មាននេះសម្រាប់បុគ្គលម្នាក់ៗ។

សម្រាប់ការអនុវត្តរបស់សហគ្រាស៖ ការរចនានៃការកំណត់เส้นทางគំរូពហុ (Multi-model routing) នេះ គឺស័ក្តិសមសម្រាប់ក្រុមការងារសន្តិសុខស៊ីនធឺណិតរបស់តៃវ៉ាន់ក្នុងការសិក្សា ព្រោះវាដោះស្រាយមិនត្រឹមតែកិច្ចការសន្តិសុខស៊ីនធឺណិតប៉ុណ្ណោះទេ ប៉ុន្តែថែមទាំងបញ្ហារចនាសម្ព័ន្ធតម្លៃដើមដែលរាល់គម្រោងណែនាំ AI ទាំងអស់នឹងត្រូវជួបប្រទះ។ តក្កវិដេអូដូចគ្នាអាចត្រូវបានយកទៅប្រើប្រាស់ក្នុងផ្នែកសេវាអតិថិជន การ審查เอกสาร (ការពិនិត្យឯកសារ) និងการตรวจสอบโค้ด (ការពិនិត្យកូដ) — សំណើងាយៗដំណើរការជាមួយគំរូដែលមានតម្លៃថទាប សំណើពិបាកៗទើបដំឡើងកម្រិតខ្ពស់។ គុណសម្បត្តិរបស់ Microsoft គឺមិនមែនស្ថិតនៅលើបច្ចេកវិទ្យាអស្ចារ្យប៉ុន្មាននោះទេ ប៉ុន្តែគឺនៅលើបណ្តាញ (Channels)៖ Defender, Azure និង M365 គឺមានស្រាប់អស់ហើយ គ្រាន់តែធីកប្រអប់ (Checkbox) មួយគឺអាចបើកដំណើរការបានហើយ ដែលនេះជាสิ่งที่ Anthropic ពិបាកនឹងចម្លងយកក្នុងរយៈពេលខ្លី។

ផ្ទុយទៅវិញ អ្វីដែលសហគ្រាសតៃវ៉ាន់ត្រូវប្រុងប្រយ័ត្នគឺ ហានិភ័យនៃការចងជាប់ (Lock-in risk)។ ឧបករណ៍កាន់តែជិតស្និទ្ធនឹងប្រព័ន្ធអេកូឡូស៊ីដែលមានស្រាប់របស់ Microsoft ពេលក្រោយចង់ដូរចេញកាន់តែមានតម្លៃថ្លៃ។ ពេលចរចា合约 (កិច្ចសន្យា) ត្រូវបានណែនាំឱ្យបញ្ចូល «ថាតើលទ្ធផលស្កេន និងទិន្នន័យរន្ធប្រហោងអាចនាំចេញជាទម្រង់ស្តង់ដារបានដែរឬទេ» ទៅក្នុងលក្ខខណ្ឌ។

និន្នាការអភិវឌ្ឍន៍នាពេលអនាគត

ខ្ញុំគិតថាវានឹងឆ្ពោះទៅរកទិសដៅបី។

ទីមួយ ឧបករណ៍សន្តិសុខស៊ីនធឺណិត AI នឹងត្រូវធ្វើពាណិជ្ជូបនីយកម្មយ៉ាងឆាប់រហ័ស។ Anthropic មាន Mythos, OpenAI មានគម្រោងសន្តិសុខស៊ីនធឺណិត Daybreak ដែលធ្លាប់បានរាយការណ៍ពីមុនមក (ពួកយើងបានសរសេរថា 〈គម្រោងសន្តិសុខស៊ីនធឺណិត OpenAI Daybreak〉) ហើយពេលនេះ Microsoft ក៏មានដំណឹងលេចឮអំពី Project Perception ដែរ — ក្នុងរយៈពេលមួយឆ្នាំ វានឹងក្លាយជាមុខងារស្តង់ដាររបស់អ្នកផ្តល់សេវាពពក (Cloud vendors) ជាជាងចំណុចលក់ដែលខុសគ្នាពីគេ។

ទីពីរ ភាពមិនសមាមាត្រគ្នារវាងការវាយប្រហារ និងការការពារ (Offense-defense asymmetry) នឹងកាន់តែធ្ងន់ធ្ងរ។ ភាគីការពារត្រូវពឹងផ្អែកលើការទិញចូល និងថវិកាទើបអាចទទួលបានសមត្ថភាពបែបនេះ ចំណែកឯភាគីវាយប្រហារគ្រាន់តែមានគំរូប្រភពបើកចំហ (Open-source model) មួយជាមួយនឹងថាមពលគណនាគ្រប់គ្រាន់ គឺអាចចាប់ផ្តើមសាកល្បងបានហើយ។ នេះក៏ជាមូលហេតុដែល Anthropic ជ្រើសរើសមិនបញ្ចេញ Mythos ជាសាធារណៈ។ តើវិធីសាស្ត្រ «ដកចិត្តមិនបញ្ចេញដោយចេតនា» បែបនេះ នឹងក្លាយជាទម្លាប់ក្នុងឧស្សាហកម្មដែរឬទេ? គឺជាបន្ទាត់មួយដែលគួរឱ្យកត់សម្គាល់បំផុតក្នុងការតាមដានបន្តទៀត។

ទីបី ការអនុលោមតាមច្បាប់ (Compliance) នឹងតាមទាន់។ នៅពេលដែលនិយតករដឹងថាមានឧបករណ៍នៅលើទីផ្សារដែលអាចស្កេនរកកំហុសឆ្គងដោយស្វ័យប្រវត្តិ ការលើកហេតុផលថា «ពួកយើងមិនបានដឹងអំពីកំហុសឆ្គងនេះទេ» នឹងថយចុះនូវភាពគួរឱ្យជឿជាក់។ ឧស្សាហកម្មដែលមានបទបញ្ញាត្តីតឹងរ៉ឹងដូចជា ហិរញ្ញវត្ថុ និងវេជ្ជសាស្ត្រ ទំនងជានឹងក្លាយជាក្រុមដំបូងគេដែលត្រូវបានតម្រូវឱ្យពន្យល់ពីអ្វីដែលពួកគេបានធ្វើ។

សេចក្តីសន្និដ្ឋាន និងមតិយោបល់ពី TheAI學院

វិលត្រឡប់ទៅរកបុគ្គលិកប្រតិបត្តិការសន្តិសុខនៃក្រុមហ៊ុនហិរញ្ញវត្ថុនោះវិញ។ អ្វីដែលគាត់ពិតជាត្រូវការ តាមការពិតមិនមែនជាអ្នកប្រមាញ់រន្ធប្រហោងដែលឆ្លាតជាងមុននោះទេ ប៉ុន្តែជាអ្វីដែលអាចប្រាប់គាត់ក្នុងរយៈពេលបីនាទីថា «ប្រព័ន្ធទាំងប្រាំណាខ្លះមានបញ្ហា គួរជួសជុលមួយណាជាមុន»។ ការទម្លាក់តម្លៃដើមចុះហាក់ដូចជាមិនសូវទាក់ទាញ ប៉ុន្តែវាជាកត្តាកំណត់ថាតើសមត្ថភាពបែបនេះគឺជាអ្វីដែលមានតែមនុស្សតិចតួចប៉ុណ្ណោះដែលអាចប្រើប្រាស់បាន ឬក៏ក្រុមប្រតិបត្តិការនីមួយៗអាចបើកប្រើប្រាស់បានម្តងក្នុងពេលពាក់កណ្តាលអធ្រាត្រ។

មតិយោបល់៖ កត្តាសម្រេចចិត្តពិតប្រាកដក្នុងការប្រណាំងប្រជែងសន្តិសុខស៊ីនធឺណិត AI ជុំនេះ គឺមិនមែនជារកឃើញរន្ធប្រហោងច្រើនជាងគេនោះទេ ប៉ុន្តែគឺអ្នកណាដែលสามารถទម្លាក់តម្លៃឯកតានៃការ «ស្វែងរកកំហុសឆ្គង» ឱ្យចុះទាបល្មមដែលអាចរត់ស្កេនបានរាល់ថ្ងៃ។

យោបល់ជាក់ស្តែងសម្រាប់អ្នកអាននៅតៃវ៉ាន់៖ ទីមួយ ប្រសិនបើអ្នកជាអ្នកទទួលខុសផ្នែកសន្តិសុខស៊ីនធឺណិត ឬ IT សូមកុំអាលប្រញាប់រង់ចាំ Project Perception — ព្រោះវាសូម្បីតែមិនទាន់ត្រូវបានប្រកាសជាផ្លូវការផង។ វិធីសាស្ត្រជាក់ស្តែងគឺការធ្វើបញ្ជីសារពើភណ្ឌទ្រព្យសកម្មក្នុងដៃ និង SBOM (Software Bill of Materials) ជាមុនសិន ព្រោះប្រសិទ្ធភាពនៃឧបករណ៍ស្កេន AI ទាំងអស់ត្រូវបានបង្កើតឡើងលើបុរេលក្ខខណ្ឌដែលថា «អ្នកដឹងថាអ្នកមានអ្វីខ្លះ»។ ទីពីរ អ្នកអាចប្រើប្រាស់ Semgrep ឬ Snyk ដែលមានស្រាប់ដើម្បីបង្កើតទម្លាប់ស្កេនមូលដ្ឋានជាមុនសិន ហើយរង់ចាំរហូតដល់ឧបករណ៍ AI មានភាពចាស់ទុំសឹមដាក់បញ្ចូលវាបន្ថែម។ ទីបី សូមវាយតម្លៃវិធីសាស្ត្រគណនាថវិកាឧបករណ៍សន្តិសុខស៊ីនធឺណិត AI ពី «ចំនួនអាជ្ញាប័ណ្ណ (Licenses)» ទៅជា «តម្លៃដើមស្កេនក្នុងម្តង × ញឹកញាប់នៃការស្កេន» វិញ ដែលនេះជាកន្លែងដែលការរចនាបែប Multi-model routing ប៉ះពាល់ដល់អ្នកពិតប្រាកដ។ ទីបួន ចូរ tận dụng (ទាញយកប្រយោជន៍ពី) សេណារីយ៉ូភារកិច្ច AI និង គំរូបញ្ជា (Prompt templates) ដែលពួកយើងបានចងក្រង ដើម្បីហฝึกហ្វូងក្រុមការងារឱ្យស៊ាំនឹងការប្រើប្រាស់ AI ដើម្បីអាន log និងសរសេររបាយការណ៍ព្រឹត្តិការណ៍ ដែលកន្លែងចាប់ផ្តើមដែលមានហានិភ័យទាបទាំងនេះងាយស្រួលមើលឃើញលទ្ធផលជាងការដាក់ឱ្យដំណើរការវេទិកាស្កេនក្នុងពេលតែមួយ។

ប្រភពទិន្នន័យ

• TechRepublic: Microsoft's 'Project Perception' Could Challenge Anthropic's Mythos in AI Security
• Anthropic: Project Glasswing — Securing critical software for the AI era
• SecurityWeek: CISA Reportedly Using Anthropic's Mythos to Scan Government Software for Flaws

អត្ថបទនេះត្រូវបានចងក្រងឡើងផ្អែកលើព័ត៌មានជាសាធារណៈ។ Project Perception មិនទាន់ត្រូវបានប្រកាសជាផ្លូវការដោយ Microsoft ទេ ហើយខ្លឹមសារពាក់ព័ន្ធគឺ originate ពីរបាយការណ៍របស់ប្រព័ន្ធផ្សព្វផ្សាយ ដោយមុខងារ ពេលវេលា និងតម្លៃ គឺត្រូវយោងទៅតាមការប្រកាសជាផ្លូវការរបស់ក្រុមហ៊ុនផ្ទាល់។