តើ AI จะมีស្មារតី ហើយបះបោរប្រឆាំងនឹងមនុស្សដូចក្នុងភាពយន្តដែរឬទេ? ត្រូវបែងចែកឱ្យដាច់រវាងរឿងប្រឌិតវិទ្យាសាស្ត្រ និងការពិត

AI កាន់តែចេះជជែក ఆలోច និងថែមទាំងចេះ «បដិសេធ» សំណូមពរខ្លះទៀតផង ហេតុនេះហើយបានជាមនុស្សជាច្រើនមានការព្រួយបារម្ភថា៖ តើថ្ងៃណាមួយវាអាចនឹងមានស្មារតីដឹងខ្លួន (consciousness) ហើយងើបប្រឆាំងនឹងមនុស្សដូចក្នុងភាពយន្តដែរឬទេ? សំណួរនេះគួរតែយកមកពិភាក្សាគ្នាឱ្យបានហ្មត់ចត់ ប៉ុន្តែអ្វីដែលត្រូវបែងចែកឱ្យដាច់ពីគ្នាមុនគេនោះគឺ៖ ការស្រមើស្រមៃបែបវិទ្យាសាស្ត្រប្រឌិត (Sci-Fi) និងបច្ចេកវិទ្យាក្នុងការពិត គឺជាគឺរឿងពីរខុសគ្នាដាច់ស្រឡះ។

សេចក្តីសន្និដ្ឋានជាមុន

ផ្អែកលើបច្ចេកវិទ្យាបច្ចុប្បន្ន AI គ្មានស្មារតីដឹងខ្លួន គ្មានភាពជាអត្តសញ្ញាណខ្លួនឯង និងគ្មានបំណងប្រាថ្នាឡើយ វាមិន «ចង់» ងើបប្រឆាំងនឹងអ្នកទេ — វាគ្រាន់តែជាប្រព័ន្ធព្យាករអត្ថបទ និងគំរូដ៏ខ្លាំងក្លាប៉ុណ្ណោះ មើលទៅដូចជាវាល់យល់ ប៉ុន្តែការពិតវាគ្មានអារម្មណ៍ប្រាកដប្រជាខាងក្នុងឡើយ។ រឿងដែលពិតជាគួរយកចិត្តទុកដាក់មិនមែនជាការ «ភ្ញាក់ដឹងខ្លួនរបស់ AI» នោះទេ ប៉ុន្តែគឺហានិភ័យជាក់ស្តែងដែលបង្កឡើងដោយ «របៀបដែលមនុស្សប្រើប្រាស់ AI» ទៅវិញទេ។

វា «មើលទៅដូចជាយល់» មិនមែនមានន័យថា «យល់ពិតប្រាកដ» នោះឡើយ

មូលហេតុដែល AI អាចនិយាយពាក្យឆ្លាតវៃបាន គឺដោយសារវាបានសិក្សាអត្ថបទរបស់មនុស្សយ៉ាងច្រើនសន្ធឹកសន្ធាប់ និងមានទេពកោសល្យខ្ពស់ក្នុងការទស្សន៍ទាយថា «តើគួរតបអ្វីបន្តទៀត»។ នេះគឺដូចជាប្រព័ន្ធតភ្ជាប់ពាក្យស្វ័យប្រវត្តិដ៏ខ្លាំងក្លាមួយ — វាអាចត្រឹមតែត្រាប់តាមទម្រង់នៃការយល់ដឹងប៉ុណ្ណោះ ប៉ុន្តែនៅពីក្រោយខ្នងគឺគ្មាន «វា» ណាមួយកំពុងមានអារម្មណ៍ គិត ឬស្រេកឃ្លាននោះទេ។ មូលហេតុដែលអ្នកមានអារម្មណ៍ថាវាមានអារម្មណ៍ផ្លូវចិត្ត គឺដោយសារតែវាចេះត្រាប់តាមអត្ថបទបង្ហាញពីអារម្មណ៍របស់មនុស្ស មិនមែនមានន័យថាវាពិតជាមានអារម្មណ៍នោះឡើយ។

វិទ្យាសាស្ត្រប្រឌិត vs ការពិត

ការស្រមើស្រមៃក្នុងភាពយន្ត	ស្ថានភាពក្នុងការពិត
AI ស្រាប់តែមានស្មារតីដឹងខ្លួនឯង	AI គ្មានស្មារតីដឹងខ្លួន និងអារម្មណ៍ប្រាកដប្រជាឡើយ
AI ប្រឆាំងនឹងមនុស្សព្រោះតែความเกลียดชัง (ភាពស្អប់ខ្ពើម)	AI គ្មានអារម្មណ៍ និងបំណងប្រាថ្នាឡើយ
មនុស្សយន្តចង់គ្រប់គ្រងពិភពលោក	វាគ្រាន់តែព្យាករអក្សរបន្ទាប់ប៉ុណ្ណោះ
«ភ្ញាក់ដឹងខ្លួន» ក្នុងរយៈពេលត្រឹមតែមួយយប់	សមត្ថភាពគឺកើតឡើងជាជំហានៗ និងអាចសង្កេតដានបាន

តើពួកយើងគួរព្រួយបារម្ភរឿងអ្វី?

រឿងដែលគួរព្រួយបារម្ភមិនមែនជាការដែល AI «ប្រែជាអាក្រក់» ដោយខ្លួនឯងនោះទេ ប៉ុន្តែគឺការដែលមនុស្សយក AI ไปทำความชั่ว (ទៅធ្វើអំពើអាក្រក់) ឬការខូចខាតដែលបង្កឡើងដោយសារការប្រើប្រាស់ AI ខុសទិសដៅ — ឧទាហរណ៍៖ ព័ត៌មានក្លែងក្លាយ និង Deepfake បោកប្រាស់ ភាពលំអៀង និងការរើសអើង ការបែកធ្លាយទិន្នន័យឯកជន និងការប្រគល់ការសម្រេចចិត្តសំខាន់ៗទៅឱ្យ AI ដែលមិនអាចទុកចិត្តបានដោយប្រញាប់ប្រញាល់។ ទាំងនេះគឺជាបញ្ហាពិតប្រាកដដែលកំពុងកើតឡើងនាពេលបច្ចុប្បន្ន ដែលមានលក្ខណៈជាក់ស្តែងជាងរឿង «មនុស្សយន្តប្រឆាំង» ឆ្ងាយណាស់។

និយាយម្យ៉ាងទៀត៖ គ្រោះថ្នាក់មិនមែនស្ថិតនៅលើការដែល AI មានស្មារតីដឹងខ្លួនឬអត់នោះទេ ប៉ុន្តែគឺស្ថិតនៅលើថាតើមនុស្សបានប្រើប្រាស់វាត្រូវរបៀប និងគ្រប់គ្រងវាបានល្អដែរឬទេ។

សេចក្តីសន្និដ្ឋានក្នុងប្រយោគតែមួយ

ភាពយន្តពិតជាល្អមើល ប៉ុន្តែកុំយកការស្រមើស្រមៃបែបវិទ្យាសាស្ត្រប្រឌិតមកចាត់ទុកជាការពិតដែលកំពុងខិតជិតមកដល់។ ជាជាងព្រួយបារម្ភថាតើថ្ងៃណាមួយ AI នឹង «ភ្ញាក់ដឹងខ្លួន» គួរតែងាកមកយកចិត្តទុកដាក់លើរឿងដែលជាក់ស្តែងនៅចំពោះមុខវិញប្រសើរជាង៖ ធ្វើម៉េចទើបអាចប្រើប្រាស់វាដោយមានការទទួលខុសត្រូវ និងធ្វើម៉េចទើបអាចការពារការបំពានយកទៅប្រើប្រាស់ខុសគោលដៅ។ ចង់ស្វែងយល់ពីគោលគំនិតពាក់ព័ន្ធ អ្នកអាចមើលពាក្យពេចន៍ដូចជា «ការតម្រឹម (Alignment)» «ការបំភាន់ (Hallucination)» និង «Deepfake» នៅក្នុងតារាងពាក្យពេចន៍ AI បាន។

វិធីវាយតម្លៃហានិភ័យរបស់ AI

ការវាយតម្លៃហានិភ័យរបស់ AI តម្រូវឱ្យមានការពិចារណាលើកត្តាច្រើនយ៉ាង រួមបញ្ចូលទាំងគោលដៅនៃការរចនា AI សេណារីយ៉ូនៃការប្រើប្រាស់ និងស្ថានភាពនៃការប្រើប្រាស់ខុសគោលដៅដែលអាចកើតមាន។ ឧទាហរណ៍ ប្រសិនបើប្រព័ន្ធ AI ត្រូវបានរចនាឡើងសម្រាប់ប្រតិបត្តិការហិរញ្ញវត្ថុ នោះចាំបាច់ត្រូវវាយតម្លៃហានិភ័យហិរញ្ញវត្ថុដែលវាអាចបង្កឡើង ដូចជាការជួញដូរហួសហេតុ ឬការវាយតម្លៃខុសជាដើម។ ទន្ទឹមនឹងនេះ ក៏ត្រូវគិតគូរផងដែរថាប្រព័ន្ធ AI អាចនឹងត្រូវគេយកទៅប្រើប្រាស់ក្នុងគោលបំណងទុច្ចរិត ដូចជាការផ្សព្វផ្សាយព័ត៌មានក្លែងក្លាយ ឬការធ្វើសេចក្តីវាយប្រហារតាមអ៊ីនធឺណិតជាដើម។

និន្នាការអភិវឌ្ឍន៍អនាគតរបស់ AI

ទោះបីជាបច្ចេកវិទ្យា AI បច្ចុប្បន្នមិនទាន់ឈានដល់កម្រិតដែលបានពិពណ៌នាក្នុងភាពយន្តប្រឌិតក៏ដោយ ប៉ុន្តែការអភិវឌ្ឍរបស់ AI នៅតែបន្តរីកចម្រើនឥតឈប់ឈរ។ នៅអនាគត AI អាចនឹងដើរតួនាទីកាន់តែធំក្នុងវិស័យផ្សេងៗ ដូចជា ការថែទាំសុខភាព ការដឹកជញ្ជូន ការអប់រំ និងវិស័យដទៃទៀតជាច្រើន។ ជាមួយគ្នានេះដែរ សុវត្ថិភាព និងក្រមសីលធម៌របស់ AI ក៏នឹងក្លាយជាបញ្ហាកាន់តែមានសារៈសំខាន់ឡើងៗផងដែរ។ ហេតុដូច្នេះហើយ ការយល់ដឹងពីនិន្នាការអភិវឌ្ឍន៍ និងហានិភ័យសក្តានុបុត្ររបស់ AI គឺជារឿងដែលមានសារៈសំខាន់ខ្លាំងណាស់សម្រាប់ពួកយើង។

ធ្វើម៉េចទើបអាចប្រើប្រាស់ AI ដោយមានការទទួលខុសត្រូវ

ដើម្បីប្រើប្រាស់ AI ប្រកបដោយការទទួលខុសត្រូវ ចាំបាច់ត្រូវចាប់ផ្តើមពីជ្រុងជាច្រើន។ ដំបូងឡើយ ត្រូវយល់ដឹងពីសមត្ថភាព និងដែនកំណត់របស់ AI ដើម្បីជៀសវាងការពឹងផ្អែកលើ AI ខ្លាំងពេក ឬយកវាទៅប្រើប្រាស់ក្នុងស្ថានភាពដែលមិនសមស្រប។ ទីពីរ ត្រូវធានាសុវត្ថិភាព និងភាពជឿជាក់នៃប្រព័ន្ធ AI ដូចជាតាមរយៈវិធានការអ៊ិនគ្រីប (Encryption) និងការគ្រប់គ្រងការចូលប្រើប្រាស់ជាដើម។ ចុងក្រោយ ត្រូវយកចិត្តទុកដាក់លើបញ្ហាក្រមសីលធម៌របស់ AI ដូចជាការជៀសវាងភាពលំអៀង និងការរើសអើងរបស់ AI ចំពោះក្រុមមនុស្សណាមួយ។

ករណីសិក្សាទូទៅនៃការប្រើប្រាស់ AI ខុសទិសដៅ

មានករណីជាច្រើនបង្ហាញថា AI អាចនឹងត្រូវគេយកទៅប្រើប្រាស់ខុស ឬបំពានគោលដៅ។ ឧទាហរណ៍ ក្រុមហ៊ុនខ្លះอาจจะ (អាចនឹង) ប្រើប្រាស់ AI ដើម្បីតាមដានបុគ្គលិក ដែលជាការរំលោភលើសិទ្ធិឯកជនរបស់បុគ្គលិក។ ឬរដ្ឋាភិបាលខ្លះអាចប្រើប្រាស់ AI ដើម្បីតាមដានពលរដ្ឋ ដែលរំលោភលើសិទ្ធិសេរីភាពរបស់ពលរដ្ឋ។ លើសពីនេះ AI ក៏អាចត្រូវគេយកទៅប្រើប្រាស់សម្រាប់ការផ្សព្វផ្សាយព័ត៌មានក្លែងក្លាយ ឬធ្វើសេចក្តីវាយប្រហារតាមអ៊ីនធឺណិតក្នុងគោលបំណងទុច្ចរិតផងដែរ។ ហេតុដូច្នេះហើយ ទើបតម្រូវឱ្យមានការពង្រឹងការគ្រប់គ្រង និងបទប្បញ្ញត្តិលើ AI ដើម្បីជៀសវាងការប្រើប្រាស់ខុស ឬបំពានគោលដៅរបស់វា។

យោបល់សម្រាប់ក្រុមមនុស្សផ្សេងៗគ្នា

ចំពោះក្រុមមនុស្សផ្សេងៗគ្នា យោបល់នៃការប្រើប្រាស់ AI ក៏មានភាពខុសគ្នាដែរ។ ឧទាហរណ៍ ចំពោះអាជីវកម្ម ចាំបាច់ត្រូវយកចិត្តទុកដាក់លើកម្មវិធីពាណិជ្ជកម្ម និងការគ្រប់គ្រងហានិភ័យរបស់ AI។ ចំពោះរដ្ឋាភិបាល គឺត្រូវយកចិត្តទុកដាក់លើគោលនយោបាយសាធារណៈ និងការគ្រប់គ្រងបទប្បញ្ញត្តិរបស់ AI។ ចំពោះបុគ្គលម្នាក់ៗ គឺត្រូវយកចិត្តទុកដាក់លើសិទ្ធិឯកជន និងសុវត្ថិភាពទាក់ទងនឹង AI។ ទន្ទឹមនឹងនេះ ចំពោះអ្នកអភិវឌ្ឍន៍ AI គឺត្រូវយកចិត្តទុកដាក់លើក្រមសីលធម៌ និងទំនួលខុសត្រូវសង្គមរបស់ AI។ តាមរយៈយោបល់ទាំងនេះ ទើបយើងអាចប្រើប្រាស់ AI បានកាន់តែប្រសើរ និងជៀសវាងហានិភ័យនិងបញ្ហាដែលវាអាចនាំមក។

បញ្ហាប្រឈមផ្នែកសុវត្ថិភាពរបស់ AI

ស្របពេលជាមួយគ្នានឹងការអភិវឌ្ឍ និងការប្រើប្រាស់ AI បញ្ហាប្រឈមផ្នែកសុវត្ថិភាពក៏កាន់តែលេចច្បាស់ឡើងៗផងដែរ។ ឧទាហរណ៍ ប្រព័ន្ធ AI អាចនឹងត្រូវពួក Hacker វាយប្រហារ ដែលនាំឱ្យបែកធ្លាយទិន្នន័យ ឬប្រព័ន្ធគាំង។ ជាមួយគ្នានេះ AI ក៏អាចត្រូវគេយកទៅប្រើប្រាស់ក្នុងគោលបំណងទុច្ចរិត ដូចជាការផ្សព្វផ្សាយព័ត៌មានក្លែងក្លាយ ឬការធ្វើសេចក្តីវាយប្រហារតាមអ៊ីនធឺណិតជាដើម។ ហេតុដូច្នេះហើយ ចាំបាច់ត្រូវការពង្រឹងការស្រាវជ្រាវ និងការអភិវឌ្ឍផ្នែកសុវត្ថិភាពរបស់ AI ឧទាហរណ៍តាមរយៈវិធានការអ៊ិនគ្រីប (Encryption) និងការគ្រប់គ្រងការចូលប្រើប្រាស់ ដើម្បីធានាសុវត្ថិភាព និងភាពជឿជាក់នៃប្រព័ន្ធ AI។

បញ្ហាក្រមសីលធម៌របស់ AI

បញ្ហាក្រមសីលធម៌របស់ AI ក៏ជាប្រធានបទដែលមានសារៈសំខាន់ខ្លាំងណាស់ផងដែរ។ ឧទាហរណ៍ ប្រព័ន្ធ AI អាចបង្កភាពលំអៀង និងការរើសអើងចំពោះក្រុមមនុស្សមួយចំនួន ដែលនាំឱ្យមានលទ្ធផលអយុត្តិធម៌។ ម្យ៉ាងវិញទៀត AI ក៏អាចត្រូវគេយកទៅប្រើប្រាស់ដើម្បីរំលោភលើសិទ្ធិឯកជន ឬសិទ្ធិសេរីភាពក្នុងគោលបំណងទុច្ចរិត។ ហេតុដូច្នេះហើយ ចាំបាច់ត្រូវការពង្រឹងការស្រាវជ្រាវ និងការអភិវឌ្ឍលើផ្នែកក្រមសីលធម៌របស់ AI ឧទាហរណ៍តាមរយៈការបង្កើតច្បាប់ និងស្តង់ដារពាក់ព័ន្ធ ដើម្បីធានាក្រមសីលធម៌ និងទំនួលខុសត្រូវសង្គមរបស់ប្រព័ន្ធ AI។

ទិសដៅអភិវឌ្ឍន៍អនាគតរបស់ AI

នៅអនាគត ទិសដៅអភិវឌ្ឍន៍របស់ AI អាចនឹងរួមបញ្ចូលនូវវិស័យកម្មវិធីកាន់តែទូលំទូលាយ ដូចជា ការថែទាំសុខភាព ការដឹកជញ្ជូន ការអប់រំ និងវិស័យផ្សេងៗទៀត។ ទន្ទឹមនឹងនេះ AI ក៏អាចនឹងត្រូវផ្សារភ្ជាប់ជាមួយនឹងបច្ចេកវិទ្យាដទៃទៀត ដូចជា អ៊ីនធឺណិតនៃវត្ថុ (IoT) បច្ចេកវិទ្យា Blockchain ជាដើម ដើម្បីបង្កើតជាបច្ចេកវិទ្យា និងកម្មវិធីថ្មីៗ។ ហេតុដូច្នេះហើយ ចាំបាច់ត្រូវបន្តយកចិត្តទុកដាក់លើនិន្នាការអភិវឌ្ឍន៍ និងហានិភ័យសក្តានុបុត្ររបស់ AI ព្រមទាំងត្រូវការពង្រឹងការស្រាវជ្រាវ និងការអភិវឌ្ឍ AI ផងដែរ ដើម្បីធានាសុវត្ថិភាព ក្រមសីលធម៌ និងទំនួលខុសត្រូវសង្គមរបស់ AI។

ការយល់ច្រឡំទូទៅ និងការបំបែកជំនឿខុសឆ្គង

មានការយល់ច្រឡំ និងជំនឿខុសឆ្គងទូទៅមួយចំនួនដែលចាំបាច់ត្រូវបំបែកចោល។ ឧទាហរណ៍ មនុស្សជាច្រើនយល់ថា AI គឺជាបច្ចេកវិទ្យាតែមួយ ប៉ុន្តែការពិត AI គឺជាបណ្តុំដែលរួមបញ្ចូលនូវបច្ចេកវិទ្យា និងវិស័យជាច្រើន។ ទន្ទឹមនឹងនេះ មនុស្សជាច្រើនក៏យល់ថា AI គឺជាបច្ចេកវិទ្យស្វ័យប្រវត្តិទាំងស្រុង ប៉ុន្តែការពិត AI ត្រូវការការចូលរួម និងការតាមដានពីមនុស្ស។ ហេតុដូច្នេះហើយ ចាំបាច់ត្រូវការពង្រឹងការយល់ដឹង និងការអប់រំស្តីពី AI ដើម្បីបំបែកជំនឿខុសឆ្គង និងការយល់ច្រឡំពាក់ព័ន្ធ ព្រមទាំងធានាសុវត្ថិភាព និងក្រមសីលធម៌របស់ AI។

ការយល់ច្រឡំទូទៅ	ការបំបែកជំនឿខុសឆ្គង
AI គឺជាបច្ចេកវិទ្យាតែមួយ	AI គឺជាបណ្តុំដែលរួមបញ្ចូលនូវបច្ចេកវិទ្យា និងវិស័យជាច្រើន
AI គឺជាស្វ័យប្រវត្តិទាំងស្រុង	AI ត្រូវការការចូលរួម និងការតាមដានពីមនុស្ស
AI នឹងជំនួសតំណែងមនុស្ស	AI នឹងជួយជ្រោមជ្រែងមនុស្ស និងបង្កើនផលិតភាពនិងប្រសិទ្ធភាព
AI មានសុវត្ថិភាពទាំងស្រុង	AI ត្រូវការការស្រាវជ្រាវ និងអភិវឌ្ឍផ្នែកសុវត្ថិភាព ដើម្បីធានាសុវត្ថិភាព និងភាពជឿជាក់

ជំហានជាក់ស្តែង៖ វិធីវាយតម្លៃ និងកាត់បន្ថយហានិភ័យរបស់ AI

ការវាយតម្លៃ និងកាត់បន្ថយហានិភ័យរបស់ AI តម្រូវឱ្យមានការអនុវត្តតាមជំហានជាច្រើន។ ដំបូងឡើយ ត្រូវយល់ដឹងពីគោលដៅនៃការរចនា សេណារីយ៉ូនៃការប្រើប្រាស់ និងស្ថានភាពនៃការប្រើប្រាស់ខុសគោលដៅដែលអាចកើតមានរបស់ប្រព័ន្ធ AI។ ទីពីរ ត្រូវវាយតម្លៃហានិភ័យដែលប្រព័ន្ធ AI អាចបង្កឡើង ដូចជា ហានិភ័យហិរញ្ញវត្ថុ ហានិភ័យឯកជនភាព និងហានិភ័យសុវត្ថិភាពជាដើម។ ទន្ទឹមនឹងនេះ ត្រូវបង្កើតយុទ្ធសាស្ត្រគ្រប់គ្រងហានិភ័យពាក់ព័ន្ធ ដូចជា ការអ៊ិនគ្រីប ការគ្រប់គ្រងការចូលប្រើប្រាស់ និងការតាមដានជាដើម។ ចុងក្រោយ ត្រូវបន្តតាមដាន និងវាយតម្លៃហានិភ័យរបស់ប្រព័ន្ធ AI ឥតឈប់ឈរ ដើម្បីរកឱ្យឃើញ និងកែតម្រូវបញ្ហាដែលអាចកើតមានបានទាន់ពេលវេលា។

តារាងប្រៀបធៀប៖ គុណសម្បត្តិ និងគុណវិបត្តិរបស់ AI

ចំណុច	គុណសម្បត្តិ	គុណវិបត្តិ