Mengapa Bil Awan Era AI Hilang Kawalan? Panduan Pengenalan FinOps dan Pemilihan Alat

Pada suatu pagi Isnin bulan Jun, Ketua Pegawai Kewangan sebuah syarikat SaaS tempatan seramai tiga puluh orang membuka peti mel, dan melihat bil bulanan AWS: RM64,000 lebih daripada bulan lepas. Dia memajukannya kepada ketua kejuruteraan, dan hanya bertanya satu ayat: "Ini apa?"

Ketua kejuruteraan menghabiskan dua hari penuh, membelek enam konsol utama, dan akhirnya jawapan yang ditemuinya ialah: ada orang membuka satu contoh GPU untuk menguji satu fungsi RAG, dan lupa menutupnya. Ia berjalan selama dua puluh tiga hari.

Cerita ini saya dengar dalam versi berbeza sekurang-kurangnya sepuluh kali. Selepas memperkenalkan AI, kos awan yang hilang kawalan hampir menjadi satu penyakit umum, dan reaksi kebanyakan syarikat pun sama — memarahi orang dahulu, kemudian membeli satu set alat, kemudian tiga bulan lagi memarahi orang sekali lagi. Yang ingin dibincangkan artikel ini ialah, mengapa ia hilang kawalan, dan bagaimana untuk melakukannya supaya benar-benar berkesan.

Empat Sebab Sebenar AI Menyebabkan Kos Awan Hilang Kawalan

Satu, Jurang Harga Seunit GPU Sama Sekali Berbeza

Satu contoh pengkomputeran biasa, jika lupa ditutup selama sebulan kira-kira membakar beberapa ribu ringgit, sakit tetapi tidak membawa maut. Satu contoh GPU, jika sama-sama lupa ditutup selama sebulan, mungkin bermula daripada berpuluh ribu ringgit. Dahulu "lupa menutup mesin" ialah kesilapan kecil, kini ia peristiwa kewangan.

Dua, Yuran API Model Tiada dalam Bil Awan

Inilah bahagian yang paling mudah terlepas. Yuran API OpenAI, Anthropic, Google anda ialah bil berasingan, dan tidak akan muncul dalam laporan kos AWS atau GCP. Banyak pasukan ketika membuat semakan kos hanya melihat konsol awan, dan langsung tidak mengira yuran model, sama seperti kurang melihat tiga puluh hingga lima puluh peratus perbelanjaan.

Tiga, Hubungan Antara Penggunaan dengan Jumlah Perniagaan Terputus

Perbelanjaan awan tradisional berkait rapat dengan trafik: pengguna bertambah, mesin bertambah, yuran bertambah, logiknya jelas. Tetapi kos fungsi AI berkait dengan "apa yang dilakukan pengguna" — pengguna yang sama, menanya soalan mudah membelanjakan AS$0.01, membiarkan ejen menjalankan satu tugas kompleks mungkin membelanjakan AS$2. Ini menjadikan anggaran amat sukar.

Empat, Persekitaran Eksperimen dan Pengeluaran Bercampur

Hakikat pembangunan AI ialah banyak cuba jaya. Jurutera perlu membuka persekitaran untuk menguji model, menjalankan penilaian, membandingkan parameter yang berbeza, dan kos ini dikelaskan sebagai "R&D" adalah munasabah. Tetapi jika akaun persekitaran eksperimen dan persekitaran pengeluaran tidak dipisahkan, anda tidak akan pernah tahu wang mana yang pelaburan dan mana yang pembaziran.

FinOps Sebenarnya Membuat Apa

Perkataan FinOps ini kedengaran mengagumkan, tetapi pada hakikatnya terasnya hanya tiga perkara, dan urutannya tidak boleh diterbalikkan.

Langkah pertama: nampak (Inform). Letakkan semua perbelanjaan pada satu jadual yang sama, termasuk awan, langganan SaaS dan API model. Kunci langkah ini bukan alat, tetapi tadbir urus label — setiap sumber perlu boleh dipadankan kepada pasukan, projek atau barisan produk. Tanpa label, mana-mana alat pun hanya boleh memberi anda jawapan seperti "EC2 membelanjakan berpuluh ribu" yang langsung tidak membantu.

Langkah kedua: boleh buat (Optimize). Cari pembaziran dan kendalikannya betul-betul. Sumber terbiar, mesin bersaiz terlalu besar, beban stabil yang tidak diikat diskaun komitmen, ini gerakan standard. Yang sukar bukan mencarinya, tetapi berani bertindak memadamnya.

Langkah ketiga: boleh kawal (Operate). Jadikan dua langkah sebelumnya sebagai mekanisme yang berjalan berterusan, dan bukan projek sekali sesuku tahun. Tetapkan amaran bajet, masukkan kos ke dalam metrik harian pasukan kejuruteraan, dan biarkan peraturan automasi mengendalikan pembersihan yang berulang.

Kebanyakan syarikat tersekat antara langkah pertama dan langkah kedua: laporan sudah dibuat, tetapi tiada siapa ada masa melihatnya, dan setelah melihatnya pun tiada siapa berani memadam.

Cara Memilih Alat: Lihat Skala Dahulu, Kemudian Lihat Senario

Alat FinOps di pasaran banyak, tetapi perbezaan kedudukannya sebenarnya agak jelas. Saya susun beberapa yang telah dinilai tahun ini kepada beberapa kumpulan.

Integrasi merentas perkhidmatan, mahu nampak luas: Vantage menyokong lebih dua puluh perkhidmatan awan dan SaaS, langganan yang memakan wang seperti Datadog, Snowflake juga boleh dikira sekali, dan turut menyediakan MCP Server supaya anda boleh terus menanya soalan kos menggunakan ChatGPT atau Claude. Sesuai untuk pasukan yang menggunakan perkhidmatan yang bercampur-campur.

Kos Kubernetes mahu dipecah terperinci: reka bentuk label maya Finout ialah salah satu penyelesaian dalam landasan ini — tanpa perlu kembali mengubah label infrastruktur, anda boleh mentakrifkan semula pemilikan kos pada platform. Pembahagian kos kelompok K8s berbilang penyewa ialah kekuatannya, dan ia tidak dikira mengikut kerusi, jadi seluruh syarikat boleh melihat akaun.

Menemui masalah mahu boleh terus dikendalikan: Cloudchipr menekankan automasi yang boleh dilaksanakan, dan anda boleh menetapkan peraturan supaya "sumber terbiar tujuh hari berturut-turut diberitahu pemiliknya dahulu, dan dimatikan secara automatik selepas tiga hari". Ia menyelesaikan halangan psikologi "tiada siapa berani memadam" dalam organisasi.

Diskaun komitmen mahu diuruskan automatik: nOps dan Usage.ai kedua-duanya khusus dalam bahagian ini. Yang pertama unggul dengan integrasi mendalam AWS, yang kedua mengambil caj berasaskan prestasi — hanya mengambil komisen daripada jumlah yang benar-benar dijimatkan, dan jika tidak berjaya menjimat maka tidak perlu membayar.

Skala tidak besar, mahu ringkas: Amnic menggunakan ejen AI berperanan untuk menolak kesimpulan kepada anda secara proaktif, manakala Economize Cloud pula mengambil pendekatan ringan, sesuai untuk syarikat baharu yang perbelanjaan bulanannya beberapa ribu dolar.

Kesilapan paling lazim memilih alat yang salah ialah "membeli spesifikasi melebihi keperluan sendiri". Sebuah syarikat baharu dengan perbelanjaan bulanan AS$5,000, membeli platform FinOps gred korporat, dan yuran perunding pengenalannya sahaja sudah melebihi wang yang dapat dijimatkan dalam setahun.

Langkah Permulaan untuk Pasukan Kecil dan Sederhana Tempatan

Jika perbelanjaan awan bulanan syarikat anda antara RM4,000 hingga RM40,000, saya cadangkan anda bermula begini, tidak perlu tergesa-gesa membeli alat:

1. Buat minggu ini: senaraikan semua sumber bil menjadi satu senarai — awan, API model, perkhidmatan pangkalan data, perkhidmatan pemantauan, semua langganan SaaS. Kebanyakan pasukan selepas menyenaraikannya akan mendapati ada dua tiga langganan yang tiada siapa ingat masih memotong bayaran.
2. Dalam dua minggu: lengkapkan label sumber, sekurang-kurangnya perlu ada dua dimensi iaitu "persekitaran" (rasmi/ujian/pembangunan) dan "orang bertanggungjawab". Perkara ini tiada jalan pintas, tetapi juga tidak memerlukan alat.
3. Dalam sebulan: tetapkan amaran bajet. Fungsi amaran natif awan sudah memadai, dan yang penting ialah menetapkannya pada ambang yang betul, serta menghantarnya ke tempat yang ada orang akan melihatnya (Slack atau Teams, bukan e-mel).
4. Selepas tiga bulan: barulah pada masa ini anda mempunyai data yang mencukupi untuk menilai alat apa yang diperlukan. Jika masalahnya ialah "tidak nampak jelas", pilih jenis integrasi; jika masalahnya ialah "tiada siapa bertindak", pilih jenis automasi; jika masalahnya ialah "diskaun komitmen tidak dibeli dengan betul", pilih yang berasaskan prestasi.

Sebagai tambahan, kawalan kos API model ialah satu set logik yang lain, agak berbeza daripada sumber awan, dan kami menyusun secara berasingan satu artikel cara praktikal kawalan kos LLM API, yang boleh dibaca secara berpasangan.

Rumusan dan Ulasan TheAI Academy

Kos awan ini mempunyai satu fenomena yang sangat menarik: ia hampir tidak pernah menjadi masalah teknikal. Alat semuanya ada di situ, data pun boleh diperoleh, dan yang tersekat selalunya ialah "siapa yang perlu bertanggungjawab" dan "siapa yang berani memadam".

Penambahbaikan kos paling berkesan yang pernah saya lihat, bukan memperkenalkan sesuatu platform, tetapi syarikat itu menjadikan perbelanjaan awan setiap pasukan sebagai satu carta kedudukan, dan mengumumkannya dalam mesyuarat keseluruhan setiap bulan. Selepas tiga bulan perbelanjaan turun dua puluh lapan peratus, tanpa membeli sebarang alat.

Ulasan: Alat FinOps boleh memberitahu anda ke mana wang dibelanjakan, tetapi hanya mekanisme kebertanggungjawaban dapat menjadikan wang benar-benar dijimatkan.

Cadangan untuk pasukan tempatan ialah: lengkapkan dahulu label, senaraikan dahulu sepenuhnya sumber bil, dua perkara ini kos sifar, dan menjadi prasyarat untuk semua alat berkuat kuasa. Setelah anda memastikan apa titik kesakitan anda, barulah pergi memilih alat; jika urutannya diterbalikkan hanya akan membelanjakan wang sia-sia.

Lebih banyak alat berkaitan boleh dilihat pada kategori alat pembangun AI di laman ini, atau rujuk senario tugas AI untuk mencari penyelesaian yang berkaitan.