AI က chip စတင်ဒီဇိုင်းဆွဲနေပြီလား? RTL generation ကနေ verification debug အထိ EDA လုပ်ငန်းမှာ ဘာဖြစ်နေလဲ

Hsinchu၊ နာရီ 14 ကြာ run နေတဲ့ simulation က နောက်ဆုံးမှာ "ဒီတိုင်း မှားနေတုန်း" ပဲ ပြောတယ်

Hsinchu ရဲ့ IC ဒီဇိုင်းကုမ္ပဏီတစ်ခုရုံးမှာ၊ ည ဆယ့်တစ်နာရီကျော်တောင် မီးလင်းနေတယ်။ verification engineer တစ်ယောက် screen ပေါ်မှာ ရုန်းပြီးသား regression test ကို ကြည့်နေတယ်၊ နာရီ ဆယ့်လေးနာရီ၊ test item ထောင်နဲ့ချီ၊ ခုနစ်ခု နီသွားတယ်။ နောက်လုပ်ရမှာက သန်းနဲ့ချီတဲ့ waveform ထဲကနေ ဘယ် cycle ရဲ့ signal မှားလဲ ရှာပြီး၊ ဘယ် RTL အပိုင်း ရေးမှားလဲ ပြန်ခြေရာခံဖို့ ဖြစ်တယ်။

ဒီအရာမှာ ဖြတ်လမ်းမရှိသလို၊ အချိန်ပိုကြေးအပြင် ဆုမရှိဘူး။ ဒါက Taiwan semiconductor လုပ်ငန်းမှာ နေ့စဉ်ဖြစ်နေပေမဲ့၊ သတင်းမှာ ရှားရှားပါးပါးသာ ရေးခံရတဲ့ ရိုးရိုးနေ့စဉ်ဘဝ ဖြစ်တယ်။

ဒါက AI က ဒီနှစ်နှစ်အတွင်း အလေးအနက်ဆုံး ကိုက်နေတဲ့ အရိုးတစ်တုံးဖြစ်တယ်။ "AI ကိုယ်တိုင် chip တစ်ခု ဒီဇိုင်းဆွဲ" ဆိုတဲ့ ခေါင်းစဉ်မဟုတ်ဘဲ၊ ဒီဇိုင်းလုပ်ငန်းစဉ်ထဲက အလူးအလဲအကုန်ဆုံး, ဖန်တီးမှုအနည်းဆုံး အဆင့်တွေကို တစ်ဆင့်ချင်း လက်ခံတာ: parameter space ဘယ်လိုစကင်ဖတ်မလဲ, test coverage ဘယ်လိုဖြည့်မလဲ, ဒီ bug ရဲ့ email စာ တစ်ရာ ဆွေးနွေးမှုက ဘာအကြောင်းလဲ။

ဖြစ်ရပ်နောက်ခံ

AI ဟာ EDA (electronic design automation) ထဲ ဝင်တာ သတင်းမဟုတ်တော့ပေမဲ့၊ ဒီနှစ်နှစ်အတွင်း သဘောသဘာဝ ပြောင်းသွားတယ်။

အစောပိုင်းက optimization ဖြစ်တယ်။ Google DeepMind ရဲ့ AlphaChip က အကိုယ်စားပြုဆုံး ဥပမာ: reinforcement learning နဲ့ chip floorplanning လုပ်ကာ၊ circuit element တစ်ခုချင်း နေရာချ၊ graph neural network နဲ့ element တွေ ကြားဆက်နွှယ်မှုကို လေ့လာတယ်။ DeepMind တရားဝင်ရှင်းလင်းချက်က၊ "နာရီအနည်းငယ်အတွင်း လူသားထက်သာ သို့မဟုတ် လူသားနှင့် တူညီတဲ့ chip layout ကို ထုတ်နိုင်တယ်၊ ရက်သတ္တပတ်များ သို့မဟုတ် လများ ကုန်စရာမလို" ဟု ဆိုတယ်။ ဒီသုတေသနက 2020 ခုနှစ်မှာ preprint ထုတ်, 2021 ခုနှစ်မှာ Nature မှာတင်, 2024 ခုနှစ် စက်တင်ဘာ 26 ရက်မှာ Nature appendix ထုတ်ပြီး AlphaChip အဖြစ် တရားဝင်အမည်ပေးကာ pre-trained model checkpoint ထုတ်ခဲ့တယ်။

စာဖတ်ပရိသတ်အတွက် ဒီမှာ အထူးမှတ်သားထိုက်တဲ့ စကားတစ်ခွန်း: DeepMind တရားဝင်စာမျက်နှာက AlphaChip ကို Google TPU v5e, v5p, ခြောက်ခုမြောက် Trillium နှင့် Axion processor မှာ သုံးပြီးကြောင်း ရှင်းရှင်းရေးထားပြီး၊ MediaTek က AlphaChip ကို တိုးချဲ့ကာ၊ သူ့ရဲ့ အဆင့်မြင့် chip ဖွံ့ဖြိုးမှုအတွက် သုံးတယ်။ Taiwan IC ဒီဇိုင်းကုမ္ပဏီတွေက ဘေးက ကြည့်နေတာမဟုတ်ဘဲ၊ စာရင်းထဲ ရောက်ပြီးသား။

စီးပွားရေး EDA ဘက်မှာ၊ Synopsys က AI product line ကို အကျယ်ဆုံးဖြန့်ထားတယ်: DSO.ai က digital implementation ရဲ့ design space optimization, ASO.ai က analog နှင့် mixed-signal, VSO.ai က verification coverage convergence, TSO.ai က test pattern optimization, 3DSO.ai က 3DIC Compiler ထဲ ပေါင်းစပ်ပြီး multi-die design ကို ကိုင်တွယ်ကာ၊ Design.da နှင့် Silicon.da data analysis platform နှစ်ခုနှင့် "24/7 Expert Copilot" အဖြစ် သတ်မှတ်တဲ့ Synopsys.ai Copilot လည်း ရှိတယ်။ website က ခြုံငုံအကျိုးအတွက် "silicon lifecycle မှာ အများဆုံး 30% productivity တိုးတက်မှု ဖြစ်စေ" ကာ "နောက်မျိုးဆက် chip ဖွံ့ဖြိုးမှုနှင့် ဆန်းသစ်မှု cycle ကို 5 ဆ မြန်စေ" ဟု ဆိုတယ်။ ဒါတွေက ကုမ္ပဏီ ကိုယ်တိုင်ရဲ့ marketing ကိန်းဂဏန်းဖြစ်လို့၊ ဖတ်ချိန် လျှော့တွက်ပါ။

တတိယလိုင်းက large language model တိုက်ရိုက် engineer နေ့စဉ်ထဲ ဝင်တာ။ NVIDIA က 2023 ခုနှစ် အောက်တိုဘာ 30 ရက်မှာ ChipNeMo ကို ထုတ်ပြန်ကာ၊ LLaMA2 ကို domain adaptation (custom tokenizer, continued pretraining, supervised fine-tuning, domain retrieval) လုပ်ပြီး၊ အသုံးချ သုံးမျိုးကို ချိန်ဆွဲတယ်: engineering assistant chatbot, EDA script generation, နှင့် bug summary နှင့် analysis။ paper က ဒီ domain adaptation နည်းတွေက "model size ကို အများဆုံး 5 ဆ လျှော့ချနိုင်ပြီး၊ design task များစွာမှာ တူညီ သို့မဟုတ် ပိုကောင်းတဲ့ စွမ်းဆောင်ရည် ထိန်းထားနိုင်တယ်" ဟု ဆိုကာ၊ အကြီးဆုံး ChipNeMo-70B က engineering assistant နှင့် EDA script generation နှစ်ခုမှာ GPT-4 ကို အနိုင်ရတယ်။

ecosystem ဘက်မှာ TSMC ရဲ့ Open Innovation Platform (OIP) က IP, EDA tool, cloud resource, design service နှင့် advanced packaging ကို ပေါင်းစပ်ကာ၊ ဒီဇိုင်းအတားအဆီးကို လျှော့ချတယ်။ သတိပြုရမှာက OIP တရားဝင်စာမျက်နှာ ကိုယ်တိုင်က infrastructure အကြောင်းသာ ပြောပြီး၊ AI ကို ရောင်းချက်အဖြစ် မထားဘူး၊ ဒါက foundry နှင့် EDA ကုမ္ပဏီရဲ့ အခန်းကဏ္ဍ မတူညီကြောင်း သတိပေးတယ်၊ ရောပြီး မပြောသင့်ဘူး။

ဤအကြိမ် အဓိကအချက်များ

• AI သုံးမျိုး တစ်ခုစီအလုပ်လုပ်: reinforcement learning က floorplanning နှင့် parameter optimization, machine learning က coverage နှင့် test pattern convergence, large language model က script, document နှင့် bug analysis။ သူတို့ ဖြေရှင်းတာက လုံးဝမတူတဲ့ ပြဿနာဖြစ်ပြီး၊ "AI chip ဒီဇိုင်း" ဆိုတဲ့ ခေါင်းစဉ်တစ်ခုတည်းနဲ့ မှုန်ဝါးစွာ ဖုံးအုပ်ခံရတယ်။
• verification နှင့် debug က တကယ့်နာကျင်တဲ့နေရာ: chip ဖွံ့ဖြိုးမှုရဲ့ အလုပ်ချိန် တော်တော်များတဲ့ အချိုးကို verification က စားတယ်ဆိုတာ လုပ်ငန်းရဲ့ ကြာရှည် သဘောတူညီချက်။ VSO.ai လိုမျိုး coverage optimization နှင့် ChipNeMo ရဲ့ bug summary က ဒီအပိုင်းကို ဖြတ်တယ်။
• RTL generation က အစောပိုင်း: LLM နဲ့ Verilog/SystemVerilog ရေးနိုင်စွမ်း မြန်မြန်တိုးတက်ပေမဲ့၊ "compile လုပ်လို့ရ" နှင့် "verification ဖြတ်, timing ဖြတ်, mass production လုပ်နိုင်" ကြားက အလွန်ကွာတယ်။ လက်ရှိ လက်တွေ့ကျတဲ့ အသုံးက testbench, script, assertion နှင့် document ထုတ်ခြင်းဖြစ်ပြီး၊ design အဓိကကို အပ်လိုက်တာ မဟုတ်ဘူး။
• domain adaptation က model size ထက် အရေးကြီး: ChipNeMo ရဲ့ ကောက်ချက်က ရှင်းတယ်၊ domain data မှန်မှန်သုံးတဲ့ model သေးက ယေဘုယျ model ကြီးကို အနိုင်ရနိုင်တယ်။ ဒါက compute budget အကန့်အသတ်ရှိတဲ့ IC ဒီဇိုင်းကုမ္ပဏီများအတွက် သတင်းကောင်းဖြစ်တယ်။
• ဒေတာက အကြီးဆုံး ခံတပ်၊ အကြီးဆုံး မိုင်း: chip design ဒေတာက client NDA နှင့် process လျှို့ဝှက်ချက်ကို ထိမိပြီး၊ cloud တင်နိုင်လား, external model ကို ကျွေးနိုင်လား ဆိုတာ မကြာခဏ ဥပဒေရေးရာက အရင်ဆုံးဖြတ်တာဖြစ်ပြီး၊ နည်းပညာက အရင် မဟုတ်ဘူး။

ဈေးကွက်သက်ရောက်မှု ခွဲခြမ်းစိတ်ဖြာ

သုံးစွဲသူများ

သာမန်စားသုံးသူက EDA ကို တိုက်ရိုက်မထိတွေ့ပေမဲ့၊ ဒီအရာက သင်နဲ့ အလွှာနှစ်ခု ဆက်စပ်တယ်။

ပထမအလွှာက product cycle။ chip design ရဲ့ iteration တကယ်မြန်လာရင်၊ ဖုန်း, ကား, AI accelerator ရဲ့ မျိုးဆက်ပြောင်းလဲမှု ပိုသိပ်သည်းလာမယ်၊ ဒါက စားသုံးသူအတွက် ကောင်းပေမဲ့၊ ပိုက်ဆံအိတ်အတွက် မဆိုနိုင်ဘူး။ ဒုတိယအလွှာက အလုပ်အကိုင်။ semiconductor ကို မှီခိုတဲ့ မိသားစုများစွာရှိပြီး၊ ဒီဇိုင်းလုပ်ငန်းစဉ် automation တိုးလာရင်၊ ရေတိုမှာ အရင်ဆုံးဖိအားခံရမှာက senior architect မဟုတ်ဘဲ၊ ထပ်ခါထပ်ခါလုပ်ရတဲ့ အခြေခံ verification နှင့် script အလုပ်ဖြစ်တယ်။ ဒါက ရိုးသားစွာ ပြောရမယ့် စကားဖြစ်တယ်။

လုပ်ငန်းအသုံးချ

IC ဒီဇိုင်းကုမ္ပဏီများအတွက်၊ အခု အဓိကဆုံးဖြတ်ရမှာက "AI သုံးမလား မသုံးဘူးလား" မဟုတ်ဘဲ၊ "ဘယ်အပိုင်းကို အရင်လှုပ်မလဲ" ဖြစ်တယ်လို့ ကျွန်တော်ထင်တယ်။

အန္တရာယ်အနိမ့်ဆုံး, အမြန်ဆုံးအကျိုးရှိတာက document နှင့် knowledge retrieval: design spec, အတိတ် bug မှတ်တမ်း, internal tool manual ကို ကုမ္ပဏီတွင်း retrieval Q&A အဖြစ်လုပ်ရင်၊ ဝန်ထမ်းသစ်တွေ လက်တည့်စမ်းချိန် သိသိသာသာ တိုသွားပြီး၊ production process ကို လုံးဝမထိဘူး။ ပြီးမှ script နှင့် testbench generation၊ implementation process optimization ကို နောက်ဆုံးထားပါ၊ ဒါက EDA supplier ရဲ့ license, compute allocation နဲ့ တွဲပြောရမှာဖြစ်ပြီး၊ engineer ကိုယ်တိုင် tool install လုပ်ရုံနဲ့ မရဘူး။

security ကတော့ အထူးအရေးကြီးတယ်။ RTL သို့မဟုတ် process parameter ကို ကုမ္ပဏီ network ပြင်ပ ပို့တဲ့ ဘယ်နည်းလမ်းမဆို၊ ဥပဒေရေးရာနှင့် client ကန်ထရိုက်ကို အရင်ဖြတ်သင့်တယ်။ on-premise သို့မဟုတ် private cloud deployment ရဲ့ ကုန်ကျစရိတ်ကို အစကတည်းက ROI ထဲ ထည့်တွက်ပါ၊ PoC ပြီးမှ တင်လို့မရဘူးဆိုတာ မတွေ့ပါစေနဲ့။

developer များ

သင် hardware engineer ဖြစ်ရင်၊ ကျွန်တော့်အကြံက LLM ကို "သင်လုပ်တတ်ပြီးသားအရာကို မြန်စေတဲ့" အရာအဖြစ်သုံးပါ၊ မလုပ်တတ်တာ သင်ကိုယ်စား သင်ပေးတဲ့အရာအဖြစ် မဟုတ်ဘူး။

အခု လက်တွေ့အသုံးဆုံး သုံးမျိုး: သူများရေးတဲ့ code အဟောင်းနှင့် spec ကို နားလည်ခြင်း, ထပ်ခါထပ်ခါလုပ်ရတဲ့ test နှင့် script ထုတ်ခြင်း, ရှည်လျားတဲ့ discussion နှင့် log ကို လုပ်ဆောင်နိုင်တဲ့ အချက်အဖြစ် ချုပ်ခြင်း။ ဒါတွေကို ChatGPT လိုမျိုး ယေဘုယျ model နဲ့ စလို့ရပြီး၊ editor ထဲက အတွေ့အကြုံကို GitHub Copilot သို့မဟုတ် Cursor ကို ကြည့်နိုင်တယ်၊ သူတို့က အဓိက software development ကို ဝန်ဆောင်ပေမဲ့၊ script, verification environment နှင့် data processing လိုမျိုး ပတ်ဝန်းကျင်အလုပ်တွေက software engineering နဲ့ ထပ်နေတယ်။

တကယ်ရင်းနှီးမြှုပ်နှံသင့်တဲ့ စွမ်းရည် နှစ်ခုရှိတယ်: တစ်ခုက domain knowledge ကို retrieval လုပ်လို့ရတဲ့ data အဖြစ် စီစဉ်ခြင်း (ဒါက model train တာထက် အများကြီးအသုံးဝင်တယ်)၊ နှစ်ခုက output ကို verify လုပ်တဲ့ စည်းကမ်း၊ AI ထုတ်တဲ့ assertion သို့မဟုတ် test က လူထက် ပိုမှုန်ဝါးစွာ မှားတတ်တယ်။ instruction template အဆင်သင့်ရှာချင်ရင်၊ site ရဲ့ prompt library နှင့် task library ကနေ ရွေးပြီး ပြင်နိုင်တယ်။

အနာဂတ်ဖွံ့ဖြိုးမှုလားရာ

သုံးနှစ်အတွင်း သုံးခုကို ကျွန်တော် မြင်တယ်။

ပထမ၊ agent ပုံစံ EDA flow က demo ကနေ trial ဆီ ကူးလာမယ်။ model က မေးခွန်းဖြေရုံမဟုတ်ဘဲ၊ ကိုယ်တိုင် tool command ချ, report ကြည့်, နောက်တစ်ဆင့်ဆုံးဖြတ်တာ။ toolchain interface က ဒီအတွက် ပြန်ရေးနေပေမဲ့၊ mass production flow ထဲ ဝင်ဖို့က reproducibility နှင့် audit မှတ်တမ်းကို အရင်ဖြေရှင်းရမယ်။

ဒုတိယ၊ AI က chip design မြန်စေ, chip က AI ကို ထပ်မြန်စေတဲ့ loop ပိုသိသာလာမယ်။ AlphaChip ကို TPU မှာသုံး, TPU ကို နောက်မျိုးဆက် model train ဖို့ပြန်သုံးတဲ့ loop က တည်ဆောက်ပြီးသား၊ အပြင်ကလူတွေ ဒီရှုထောင့်ကနေ ရှားရှားပါးပါးသာ ကြည့်တယ်။

တတိယ၊ EDA license model ပြောင်းနိုင်တယ်။ productivity တိုးတက်မှုကို tool subscription ထဲ ချည်တဲ့အခါ၊ ဈေးဆစ်စွမ်းရည်က supplier အနည်းငယ်ဆီ စုစည်းသွားမယ်။ ကမ္ဘာ့အသိပ်သည်းဆုံး chip design လူ့စွမ်းအားရှိပေမဲ့၊ EDA toolchain မှာ နိုင်ငံခြားကုမ္ပဏီကို အလွန်မှီခိုနေတဲ့ ဒေသတွေအတွက် ဒါက လုပ်ငန်းမူဝါဒအဆင့် ခေါင်းစဉ်ဖြစ်ပြီး၊ ကုမ္ပဏီတစ်ခုတည်း ဖြေရှင်းနိုင်တာ မဟုတ်ဘူး။

TheAI Academy အနှစ်ချုပ်နှင့် သုံးသပ်ချက်

"AI က chip စတင်ဒီဇိုင်းဆွဲနေပြီ" ဆိုတဲ့ စကားက လက်ရှိ တစ်ဝက်သာ မှန်တယ်။ AI က floorplanning optimization, coverage convergence နှင့် test pattern generation ကို လုပ်နေပြီးဖြစ်ကာ၊ တရားဝင်စစ်ဆေးနိုင်တဲ့ mass production case များ ရှိတယ်၊ ဒါပေမဲ့ spec ကနေ mass production chip အထိ ကွင်းဆက်တစ်ခုလုံးမှာ၊ လူသား engineer ရဲ့ ဆုံးဖြတ်ချက်က အဓိက node များမှာ ခိုင်ခိုင်မာမာ ကပ်နေဆဲဖြစ်တယ်။

အရေးကြီးဆုံးက ဘယ်သူ့ model ပိုအားကောင်းလဲ မဟုတ်ဘဲ၊ သုံးဆယ်နှစ် စုဆောင်းခဲ့တဲ့ design knowledge ကို စက်ဖတ်နိုင်တဲ့ ပိုင်ဆိုင်မှုအဖြစ် ပြောင်းလဲနိုင်မလား ဖြစ်တယ်။ senior engineer ခေါင်းထဲ, သက်တမ်းကုန် wiki ထဲ, အလုပ်ထွက် လွှဲပြောင်းစာရွက်ထဲ ဝှက်နေတဲ့ အရာတွေက၊ တကယ့် ယှဉ်ပြိုင်နိုင်စွမ်း ဖြစ်တယ်။

semiconductor ခံတပ်က ဘယ်တုန်းကမှ tool မဟုတ်ဘူး၊ knowledge ဖြစ်တယ်၊ ပြဿနာက အဲဒီ knowledge က အခုထိ လူ့ဦးနှောက်ထဲ ရှိနေဆဲဖြစ်ပြီး၊ data အဖြစ် မပြောင်းလဲသေးဘူး။

စာဖတ်ပရိသတ်အတွက် တိကျတဲ့ အကြံ: သင် IC design သို့မဟုတ် packaging/testing လုပ်ငန်းမှာ ရှိရင်၊ ဒီရာသီမှာ တစ်ခုလုပ်နိုင်တယ်၊ ကုမ္ပဏီတွင်း design spec, bug မှတ်တမ်းနှင့် tool manual ကို retrieval လုပ်လို့ရတဲ့ knowledge base ဖြစ်အောင်လုပ်ပါ၊ ဒါက production process ကို မထိဘဲ၊ နောက်ဆက်တွဲ AI application အားလုံးရဲ့ အုတ်မြစ်ဖြစ်တယ်။ သင် ကျောင်းသား သို့မဟုတ် အလုပ်ပြောင်းသူဆိုရင်၊ "RTL ရေးတဲ့ AI" ထဲ အမြန်မခုန်ဘဲ၊ verification methodology, Python automation နှင့် data စီစဉ်ခြင်းကို အရင်ကျွမ်းအောင်လုပ်ပါ၊ ဒီသုံးခုက နောက်ငါးနှစ်မှာ ပိုတန်ဖိုးရှိလာမယ်။

ဒေတာ ရင်းမြစ်

• Google DeepMind - How AlphaChip transformed computer chip design
• Synopsys - AI-Driven Chip Design
• NVIDIA Research - ChipNeMo: Domain-Adapted LLMs for Chip Design