Mga Dapat Mong Gawing Pagsusuri at Seguridad Bago Mag-live ang AI Agent

Isang startup na gumagawa ng customer service Agent ang nakaranas ng pagdami (sa halip na pagbaba) ng mga reklamo ng mga customer noong ikatlong linggo ng kanilang paglulunsad. Naguguluhan sila—lahat naman ay maayos noong testing. Nang suriin nila ang mga log, natagpuan nila ang isang problema: para sa isang partikular na isyu, may kumpiyansang binanggit ang Agent na "Seksiyon 7 ng patakaran sa refund ng kumpanya," kahit na walang Seksiyon 7 ang patakarang iyon. Hindi ito dahil hindi niya kaya, kundi dahil ginawa nitong parang totoo ang isang bagay na hindi naman umiiral, at nagkataong hindi kasama ang ganitong uri ng kaso sa batch ng mga pagsubok bago ang launch.

Ito ang pinakamapanganib na paraan ng pagkabigo ng isang Agent—hindi ito magpapakita ng pulang babala o mag-i-throw ng exception. Tahimik, magalang, at malinaw nitong ginagawa ang mali, at naniniwala ang iyong user.

Bakit "Tahimik na Nabibigo" ang mga Agent

Ang tradisyonal na software, kapag nagka-bug, ay karaniwang sumasabog sa harap mo: naglalabas ng error, nagbabalik ng 500, o tinuturo ng stack trace ang eksaktong linya. Magkaiba ang Agent. "Binuo" (generated) ang output nito, kaya laging maayos ang wika, kaya naman ang mga error ay nakabalot at kamukha na kamukha ng tamang sagot.

Ang mas nakakainis pa ay ang multi-step na proseso. Ang pagtakbo ng isang Agent ay maaaring tumawag ng mga tool nang lima o anim na beses, at kung lumihis ang alinman sa gitna—mali ang nakuha na data, maling parameter ang naipasa, o may nakaligtaang kondisyon—ang mga susunod na hakbang ay ibabatay sa maling ito, hanggang sa mabigyan ka ng resulta na "magkakaugnay pero mali." Kung titingnan mo ang huling sagot, hinding-hindi mo mapapansin kung saan nagka-mali.

Kaya naman ang katiyakan sa kalidad (QA) ng Agent ay hindi pwedeng i-asa sa manu-manong pag-spot-check, o sa pag-isip na "mukhang okey naman pagkatapos kong patakbuhin nang ilang beses." Kailangan mo ng isang set ng mekanismo na masusukat (quantifiable), nire-replay (replayable), at patuloy na binabantayan online. Ito mismo ang tatlong layer ng evaluation, security, and observability na binanggit sa〈Gusto mong gumawa ng sarili mong AI Agent? Anong mga tool ang dapat ihanda?〉na talagang magagamit sa yugto ng paglulunsad.

Ang Kahalagahan: Apat na Bagay na Dapat Bantayan Bago ang Launch

• Offline Evaluation: Gumamit ng nakapirming hanay ng mga tanong para mabilang kung bumaba ba ang kalidad pagkatapos ng bawat pagbabago.
• Red Team Testing: Aktibong hanapin ang mga kahinaan nito—anong uri ng input ang magpapatawid dito sa linya, magpapasimula ng pagsisinungaling, o magpapatapon ng data.
• Multi-step Debugging: Kapag may nagka-error, kaya nitong i-replay ang buong execution trail para matukoy kung aling hakbang ang lumihis.
• Online Monitoring at Guardrails: Patuloy na subaybayan ang kalidad at gastos pagkatapos ng launch, at maglagay ng mga harang bago gawin ang mga mapanganib na aksyon.

Ang apat na ito—kung may mawala kahit isa, ang paglulunsad mo ay parang sugal.

Paano Mag-test: Promptfoo

Ang pinakadiwa ng offline evaluation ay ang pagpapalit ng "Sa tingin ko gumanda ito" sa "Sinasabi sa akin ng mga numero na gumanda ito." Hinahayaan ka ng Promptfoo na gumawa ng set ng mga test case—mga input, inaasahang ugali, at mga pamantayan sa paghusga—at pagkatapos, tuwing papalitan mo ang prompt, modelo, o mga parameter, tatakbuhin mo ang buong set upang makita ang pagbabago ng marka.

Ang mga pamantayan sa paghusga ay maaaring pagtutugma ng string (string matching), regular expression, o paggamit ng isa pang modelo bilang hukom (LLM-as-judge) upang suriin kung "tumpak bang binanggit ng sagot ang pinanggalingan." Kung ang startup na binanggit sa simula ay may assertion na "ang patakaran na binanggit sa sagot ay dapat talagang umiiral," malamang ay hindi nakalusot sa production ang Seksiyon 7 na iyon.

Nandito rin ang Red Team Testing sa layer na ito. Kayang magpatakbo ng Promptfoo ng isang batch ng mga adversarial input, sinusubukang palabasin sa Agent ang system prompt, lampasan ang mga limitasyon, o magpatakbo ng mga aksyon na hindi dapat isagawa. Kung hindi mo ito aatakin, ang user (o mga may masasamang balak) ang aatake para sa iyo. Mas mabuting ikaw na ang mauna sa pagsubok.

Paano Mag-debug: AgentOps

Sinasabi sa iyo ng evaluation na "mali ang sagot," pero hindi nito sinasabi kung "saang hakbang nagka-mali." Ang multi-step debugging ay umaasa sa AgentOps.

Ginagawa nitong nire-replay na timeline ang buong pagtakbo ng isang Agent: anong tool ang tinawag sa unang hakbang, anong parameter ang ipinasa, ano ang ibinalik, ilang token ang nagamit, ano ang batayan ng ikalawang hakbang para sa susunod... at nakalatag ito para makita mo. Sa halimbawa ng patakaran sa refund, malinaw mong makikita sa AgentOps na ang piraso ng dokumento na ibinalik ng retrieval step ay mali na noon pa, at ang mga sumusunod ay makatwirang hinuha na nakabatay lamang sa maling data. Kung wala ang trail na ito, mapapatitig ka lang sa huling sagot nang walang magawa.

Paano Mag-monitor: Langfuse

Ang paglulunsad ay hindi katapusan, kundi simula pa lamang ng isa pa. Ang mga input sa production environment ay iba-iba, at magtatanong ang mga user ng mga bagay na hindi mo kailanman naisip noong nag-a-assess ka. Ang Langfuse ang namamahala sa pangmatagalang pagtatala ng bawat pakikipag-uzap online, bawat gastos sa token, at bawat antas ng latency, na nagbibigay-daan sa iyong subaybayan kung nag-drift ba ang kalidad sa paglipas ng panahon, aling uri ng mga tanong ang may pinakamasamang sagot, o kung nawalan ba ng kontrol ang gastos.

Ang hati ng trabaho sa pagitan nito at ng AgentOps ay: ang AgentOps ay nakatutok sa single-run deep debugging sa yugto ng development, habang ang Langfuse ay nakatutok sa long-term group monitoring online. Sa praktika, ginagamit ng maraming koponan ang pareho. Ang punto ay—kailangan mong magkaroon ng lugar na laging handang sumagot sa tanong na: "Kamusta ang performance ng aking Agent ngayong linggo?" Kung hindi ka makasagot, ibig sabihin ay nakalantad ka nang walang pananggalang.

Mga Guardrail: Ang Huling Harang

Ang evaluation, debugging, at monitoring ay mga paraan ng "pag-alam pagkatapos o bago mangyari," habang ang mga guardrail ay para sa "pagpigil sa mismong sandaling iyon." Bago gumawa ang Agent ng mga mapanganib na hakbang—pagbabayad, pagtanggal ng data, panlabas na pagpapadala, o pagpapatakbo ng mga command ng sistema—magdagdag ng layer ng pagsusuri ng panuntunan o manu-manong pagkumpirma.

Ano ang dapat harangin ng mga guardrail: i-mask kapag ang output ay naglalaman ng personal identifiable information (PII) o kumpidensyal na impormasyon, ilipat sa tao kapag ang halaga ay lumampas sa limitasyon, o itigil kapag nakita ang prompt injection. Ang layer na ito ay pinagsasama sa execution sandbox sa toolchain (tulad ng Blaxel)—nililimitahan ng sandbox kung "ano ang maaari nitong patakbuhin," habang nililimitahan ng mga guardrail kung "ano ang maaari nitong gawin."

Mga Pokus sa Pagbabantay para sa Tatlong Uri ng mga Koponan

Mga Indibidwal na Developer sa Taiwan: Ikonekta man lang ang Promptfoo. Kahit na mayroon lamang dalawangpung test case, mas mabuti pa rin ito kaysa sa pag-asa sa pakiramdam pagkatapos ng bawat pagbabago. Pumili lamang ng ilang pinakamapanganib na attack surface para sa red team testing, huwag nang habulin ang pagiging kumpleto.

Mga Startup Team: Dapat maagang gamitin ang AgentOps at Langfuse. Mabilis pa ring nag-i-iterate ang iyong produkto, at kung walang observability, ang bawat insidente ay nangangahulugan na ang buong koponan ay maghahalungkat sa dagat ng mga log—ang oras na ginugol doon ay sapat na para makagawa ka pa ng dalawang feature. Unahing protektahan ng mga guardrail ang mga aksyong "gumagastos" at "hindi na maibabalik."

Mga Negosyo (Enterprise): Ang red team testing at mga guardrail ang batayan ng pagsunod (compliance). Ang mga tanong ng seguridad at legal na departamento na "magsasala ba ang data" at "maaari bang i-audit ang bawat desisyon" ay nakatago sa mga rekord ng adversarial testing ng Promptfoo at execution trail ng AgentOps. Ang pagpapanatili ng mga rekord na ito ay katumbas ng paghahanda ng ebidensya para sa audit nang maaga.

Checklist Bago ang Launch

Gawin nang direkta ang mga ito:

• Mayroon kang hanay ng mga tanong sa pagsubok na sumasaklaw sa mga karaniwang kaso at edge case, na tumatakbo sa Promptfoo.
• Tuwing babaguhin ang prompt o modelo, patatakbuhin ang buong evaluation, at mag-a-lunsad lamang kung hindi bumaba ang marka.
• Nagsagawa ng kahit isang round ng red team testing, na sinubukan ang prompt injection, paglampas sa mga hangganan, at pagsisinungaling.
• Para sa mga sagot na may kinalaman sa "pag-aangkin ng katotohanan (fact claim)," mayroong assertion check para matiyak na talagang umiiral ang pinagmulan.
• Ang multi-step na proseso ay konektado sa AgentOps, kaya kapag may nagka-error, maaari itong i-replay upang mahanap ang eksaktong hakbang.
• Nakakonekta ang Langfuse online upang makita ang quality drift at mga gastos.
• Mayroong mga guardrail o manu-manong pagkumpirma bago ang mga mapanganib na aksyon (pagbabayad, pagtanggal, panlabas na pagpapadala).
• Nagtakda ng mga limitasyon sa token at gastos upang maiwasan ang pagsunog ng pera ng background Agent.
• Ang mga mapanganib na pagpapatakbo ng code ay tumatakbo sa isang sandbox.
• Mayroong isang tao na nakakaalam kung alin ang unang dapat tingnan kapag may naganap na insidente.

Buod at Puna ng TheAI學院

Ang pinakamalaking panganib ng paglulunsad ng Agent ay hindi kailanman ang kakulangan ng lakas ng teknolohiya, kundi ang katotohanang "hindi mo alam kung kailan ito nagkakamali." Ang evaluation ay nagbibigay-daan sa iyong malaman nang maaga, ang observability ay nagbibigay-daan sa iyong suriin ito pagkatapos, at ang mga guardrail ay nagbibigay-daan sa iyong harangin ito sa mismong sandali—ang halaga ng tatlong bagay na ito ay hindi mo mararamdaman sa mga ordinaryong araw, ngunit ililigtas ka nila sa araw ng sakuna.

"Ang isang Agent na hindi mo nakikita sa loob at hindi masukat ang kalidad, gaano man kabilis tumakbo, ay isang nakatagong bomba; ang isang karaniwang bagay na masusuri ay mas mahusay kaysa sa katalinuhang hindi mo nakikita."

Tiyak na mungkahi para sa mga mambabasa: Bago ilunsad, pilitin ang iyong sarili na sagutin ang isang tanong—"Kung bukas ay magkamali ito sa harap ng isang customer, gaano katagal bago ko malaman kung aling hakbang at bakit?" Kung hindi ka makasagot ng "sa loob ng sampung minuto," huwag mo munang ilunsad; bumalik at punan ang tatlong layer na ito: Promptfoo, AgentOps, at Langfuse. Para sa kung paano buuin ang kumpletong toolchain, maaari mong balikan ang〈Buong Diagram ng Developer Toolchain ng 2026〉.