和AI聊天每句都要花錢!全球算力價格齊漲,企業如何迎戰Token經濟?

AI進軍百工百業, 迎接黃仁勳的Token經濟時代!全球算力價格齊漲,企業買Token比員工薪水還貴?當AI吃到飽模式終結,買算力先算投資報酬率。《天下雜誌》解密工作流程到組織運作,4大管理新思維!

文/林宏達、鄧凱元 圖/AI影像後製 由天下雜誌授權轉載

本文目錄(點擊可快速前往)

在鍵盤上隨意打進幾個字,等待雲端回應內容。這個不起眼的動作,中間傳遞的所有資訊,在AI時代,有了一個響亮的名字,叫做Token,中國翻譯成詞元。它不只是AI服務的計價單位,更是AI時代的新石油。

Token是什麼?OpenAI的官方網頁解釋是,你輸入詢問AI的文字、上傳的圖片,都會換算為Token計算使用量。不只如此,包含這些資料儲存在AI的「記憶」中,或進行推理、存取這些資料,到最後回傳給你答案,全都要按照使用的Token數量計費。

註:Token是AI模型處理資料的最小單位,AI模型只能看懂數字,因此你輸入的文字和資料,會透過分詞器(Tokenizer)切成片段,每一段就是一個Token,再轉為數字。輸入同樣的意思,用中文會比英文消耗更多Token,且不同公司計算Token的方式也不同。 Token是使用AI模型的計費基礎,從你對AI模型輸入的命令,上傳要分析的資料內容,到產生結果,每個流程都需要按Token收費。更重要的是,代理式AI出現後,由於代理式AI會自動推論、自動送出命令,重新讀取在AI系統裡的資料,等於自動幫你花掉Token,其對Token的消耗遠高於過去的對話式AI。

今年3月,黃仁勳表示,「Token是新的大宗商品。」他對所有人說,「你的工廠生產Token的速度,影響你明年的營收。」

他更預期,未來Token的價格會開始分化,有的幾乎不用錢,但目前最貴的GPT 5.5 Pro賣180美元(以每百萬Token計價),比黃仁勳喊價最貴可賣到150美元還高。

他以此唱旺算力需求,鼓勵所有人繼續買他的GPU、AI伺服器。

算力價格齊漲,矽谷也吃不消

黃仁勳為什麼喊出「Token經濟」?因為,隨著去年底代理式AI(Agentic AI)登場,這種具備自主性、規劃與工具調用能力的AI系統,讓企業更積極用此解決真實世界的問題,Token愈用愈多。

「先前做AI模型的業者並不賺錢,現在將進入真正可賺錢的階段,」AMD董事長蘇姿丰在5月的《天下》論壇時也說。

「全球已開始研究Token使用效率,」緯創董事長林憲銘指出,市場開始重視效能,就代表產業已經進入真正競爭階段,而不是短暫熱潮。

對公司而言,Token經濟的關鍵是,一方面搭上代理式AI改造企業的列車,一方面能妥善控制Token成本。

對個人而言,面對Token經濟的關鍵是如何善用Token資源,在全新的組織形態下,聰明工作。

當前,Token經濟的第一大挑戰,就是尖端模型漲價。

今年初,矽谷企業拚命鼓勵員工使用代理式AI,甚至出現了流行詞TokenMaxxing(Token極大化),Meta還替員工排名誰用得多,以證明自己更「AI原生」,結果一個月內用掉數億美元的Token;Uber則是4個月內用完全年的AI預算,矽谷因此改吹起TokenMinning(Token極小化)風潮,大家都開始在管控Token用量。

果然,今年中,先進AI模型生產的Token價格,將開始調升。

6月30日,Anthropic公告,最多軟體工程師用的Claude Sonnet 5模型,原本輸出100萬Token要價10美元,9月1日起調漲到15美元。

美國《AI Weekly》報導,亞馬遜7月起的GPU算力價格也要漲2成,這已是今年第2次調價;今年3月,阿里雲也宣布調漲部份算力價格,漲幅從5%到34%。

迎戰Token經濟的4大管理新思維

Token經濟第一步:投報率思維,殺雞不須用牛刀

面對模型或算力漲價的壓力,Google Cloud亞太區AI上市業務總經理柯德睿(Harsha Konduri)建議,企業要有投資報酬率的思維。首先,要挑選有投報率的專案,做AI改造;其次,視需求組合不同AI模型,把錢花在刀口上。

如何找到有AI投資報酬率的專案,有以下三個「要」:

一、要找到AI能解決,有可行性的問題。

二、要找到解決這個問題的合適資料,打造適合組織的流程。

三、要找到能夠擴大規模,提供資料可視性和AI治理,讓整個公司獲益的專案。

以中南美洲電商霸主美卡多(Mercado Libre)為例,這家公司把Token花在吸引客戶回流,利用客戶在網路上留下的新數據,不斷增強AI對客戶喜好的判斷,為客戶創造新的體驗。不斷流進的資訊形成新的競爭門檻,「對手就算用同樣的模型,也無法競爭。」

此外,柯德睿也建議,企業要將AI任務分級。他曾遇過一家東南亞新創公司,把錢都投在最昂貴的模型,一個星期就燒光了所有的預算。深談後,他建議,像編寫文件等工作,用一般的模型照樣能完成。「不要把錢全花在最貴的AI模型上,」他強調。

換言之,殺雞不需用牛刀。

AI模型Token價格表
(圖/由天下雜誌授權轉載)

成立33年,生產工業級和電信網路設備的台灣公司主向位科技,也是先挑選有投報率的專案,導入代理式AI。

主向位總經理特助張承軒,挑選採購入手。因為採購需要頻繁跟供應商確認交期,反覆跟生產線確認,再回到ERP系統裡去修改計劃,每年至少1500張採購單,得雇4個採購加一個助理才能完成。

於是他們請鼎新數智開發採購專用的代理式AI,會自動讀取電郵,主動比對庫存和產線狀況,直接生成單據,只等採購人員確認。

一開始,員工擔心新專案會加重工作負擔,公司選擇不強推AI,而是放在員工電腦裡,告訴他們有這個工具。後來,有採購休假時,員工打開電腦試用,結果發現AI讓採購的負擔減少5成,有人休假,竟然也不用加班。

Token經濟第二步:流程逆分工,一人抵一個團隊

主向位副總經理高健益說,員工心態因此明顯轉變,在不增加人力的情況下,達交率比導入AI前增加3成。

隨著代理式AI愈來愈普及,Token經濟的第二步,是企業組織改造。

台灣大總經理林之晨與資訊長蔡祈岩的新書《逆分工:AI時代的生產力革命》,搶先揭示未來組織變化的實況。

一年半前,林之晨在台灣大導入了「超人計劃」,目標3年內,8成員工至少掌握一項AI工具,目前已平均替員工省下了4小時工時。「繁雜、重複的工作減少了,反而能做更有意義的事,」林之晨說。

同時間,每個專案的人力運用也正在壓縮中。例如,以往做一個網站,光工程師就分成數據層、應用層專業,至少要過七、八手。但現在設計師與AI協作,就能做出草稿,接著與工程師對接。流程壓縮後,來回溝通的時間也變短。

他們將此去中間、反流水線式的做法稱為「逆分工」。

台灣大總經理林之晨(右)與資訊長蔡祈岩(左)強調,逆分工可讓員工釋放更高生產力。(王建棟攝)
台灣大總經理林之晨(右)與資訊長蔡祈岩(左)強調,逆分工可讓員工釋放更高生產力。(圖/王建棟攝,由天下雜誌授權轉載)

在蔡祈岩主管的資訊部,改變更激烈。以往,資訊部400多個應用系統,每一個人都被分配管特定系統。

但蔡祈岩實驗,將400多個應用系統訓練成AI大腦,團隊中就出現了人數不多,但很會用AI,效率高的「快攻部隊」。「已經開始走向20/80分工,」他說,「這人數不多的快攻部隊,有AI輔助後,400多個系統,出現任何問題,解題的效果常常更好。」

因此,他們預測,未來可能的組織型態,將由如快攻部隊的2成「領域專家」,以及8成的「液態」與「變形蟲」式專案人員擔綱。不僅資訊軟體,法務、財會也會如此。這樣的分工方式,能把人從價值低的工作解放,把時間投入價值更高、服務更好的工作。

延伸閱讀:AI破牆,硬知識貶值了!拆解「2種智力」決定你被取代還是被放大

Token經濟第三步:組織升級,三大職務搭配AI大腦

更極致的逆分工,已在美國引起巨浪。2月,前推特共同創辦人、現任金融服務公司Block執行長多西(Jack Dorsey)一口氣裁了4成員工,總數4000人。彼時公司規模與獲利,都在成長中。

他解釋,公司AI大腦每週都在進步,已改變營運公司的邏輯。明年多數企業就會意識到這件事,所以他要更早採取結構性的改變,「更小的團隊,應用我們打造的工具,可以做得更多。」

他認為,企業傳統的金字塔、階層式架構,本質是為了資訊流的控制。未來,資訊控制將由AI負責,新架構的核心是數據、模型搭建的公司AI大腦。

未來企業只需要3種角色,可以直接掌握內外部大數據,並調動AI代理人(AI agent)完成任務。

AI組織流程改造
(圖/由天下雜誌授權轉載)

最多人將成為獨立貢獻者(Individual Contributors),他們可以是銷售人員、工程師、設計師等,藉由調取企業大腦、代理人輔助,放大產出。因為AI賦能,專業也將更多元。

次多是直接負責人(Directly Responsible Individuals),這群人的關鍵是理解企業目標,也能直接面對與滿足客戶需求,能調度一個團隊與資源,完成一個任務。

Token經濟時代的管理者則是球員兼教練(Playercoaches)。他們協助獨立貢獻者、直接負責人成長,確保與公司策略一致,同時也負責品質把關與精進。

多西正在實踐自己的理論,Block的組織階層,預計今年將從5層,縮減為2到3個階層。「從核心改變公司運作的方法,能大幅增加我們帶給客戶的價值,」他認為。

趨勢科技也正在進行生產力實驗。旗下TrendAI企業事業群營運長金敬秀(Rachel Jin)發現,以前一個專案大約20個人,現在同樣的工作5個人就能完成,而且速度更快。所以,她開始把工作切小,讓每一個團隊都能獨立完成工作。

Token經濟第四步:算力佈局,雲端、地端怎麼搭?

釋出的人力,加上AI輔助,提高跨界範疇,譬如原本的軟體工程師調去做行銷,甚至對接法律合約和財報。

眼前,跟組織改造一樣關鍵的,是Token的算力佈局。要控制Token成本,必須思考投資地端,或租用雲端算力的平衡。

企業算力架構方案選擇:AI基礎建設佈局4大方案

方案在地部署新興雲端服務商大型雲端服務商API串接
說明企業自建算力,如科技業與金融業自行架設運算機房第三方業者建置算力機房,企業可以透過租用的方式取得算力主流大語言模型與算力服務商,如微軟、AWS、Google等大語言模型可透過API(應用程式介面)與企業開發之AI代理人串接,調用特定模型
算力單位成本最低中等偏高,價格間距大
擴充性中等中等/高極高
自主性與客製化完全自主中等中等極低(無法掌控基礎設施層,且難以微調AI)
安全性與數據主權最高(完全掌控資料、傳輸與儲存)高(較高程度掌握基礎設施與資料)中等(存在資料洩漏風險,對算力託管位置掌控度較低)低(掌控運算架構與治理難度高)
最佳適用場景穩定、運算量高的運用變動性高的運算需求、概念驗證(POCs)、成本敏感專案變動性高的運算需求、概念驗證快速實驗、AI代理人、檢索增強生成(RAG)

不擔心算力沒人用的工業電腦龍頭研華,選擇自建部份算力。

和泰汽車MaaS本部長韓志剛,現階段選擇租用雲端算力。他指出,儘管去年AI成本增加25%到30%,但仍在可接受範圍。而且現在AI技術不斷推陳出新,設備折舊快,租用雲端算力才是最有彈性的選擇。

他們把重心放在建立流程,用AI增加運作效率。

和泰2025年就開始為員工採購企業版AI帳號,圖為MaaS本部長韓志剛。(圖/莊凱程攝,由天下雜誌授權轉載)
和泰2025年就開始為員工採購企業版AI帳號,圖為MaaS本部長韓志剛。(圖/莊凱程攝,由天下雜誌授權轉載)

例如,和泰每年收到約12000通客服電話,為確保服務品質,過去透過和顧問公司合作,用人工抽查約2%電話內容。今年嘗試以AI檢查每一通客服電話品質,但單通成本僅剩原本的千分之五。「今年各本部長績效,5成將來自對AI推動的成績,」韓志剛透露。

勤業眾信資深執行副總經理陳鴻棋認為,成本、資安與專案類型,都是評估算力成本效益的關鍵,也可以在不同使用情境,混合搭配不同的算力架構。像是零售業的單點活動,就適合彈性高的串接API(應用程式介面),單純調用外部模型。但用量穩定,資安機敏最高的金融與科技等,不少企業選擇自建算力。

當代理式AI進入現實,被個人、企業大量運用,Token帳單只是結果。從挑選算力與模型、組織改造到硬體投資,拉高Token效能,將是一門很深的現代管理學。

企業算力架構方案選擇:AI基礎建設布局4大方案
(圖/由天下雜誌授權轉載)

(原文標題:和AI聊天每句話都要花錢!企業迎戰Token經濟 哪些模型CP值最高?

推薦閱讀: