“降價的基本邏輯是，我們有信心用技術手段降低成本，市場也需要更低價的大模型。”5月15日，字節跳動豆包大模型在火山引擎原動力大會上發布，火山引擎總裁譚待在公布豆包大模型定價時如是說。
豆包大模型的超低價格引起業內關注。據悉，豆包主力模型的推理輸入價格只有0.0008元/千Tokens（數據中的基本單元），比行業價格便宜99.3%。對此，譚待坦言：“降價是用技術優化成本來實現的。如果只是補貼，用虧損換收入是不可持續的，我們不會走這條路。”
對大模型推理成本的優化，可通過很多技術手段實現。首先是模型本身，模型結構、訓練方法都可以持續改進，包括業界很關注的MoE（混合專家模型），就是優化推理成本很好的解決方案。其次是工程上的優化。大模型的調用量越大，優化推理成本的空間也越大。以前的模型都是單機推理，大模型用的是分布式推理。所以如果能把各種各樣的底層算力用得更好，推理成本就會大大降低。
譚待表示，豆包大模型平均每天處理1200億Tokens文本、生成3000萬張圖片，不同任務有不同的負載，可以把它們混合在一起，通過智能調度提高它們的利用率，就能極大地提升資源利用率，實現整體成本的優化。
“大的使用量，才能打磨出好模型，大幅降低模型推理的單位成本?！弊T待拿字節跳動內部業務舉例，飛書的主要流量高峰在工作時間，抖音在下班后休閑時間的流量更高，這些不同業務的大模型推理，也能根據業務特點錯峰使用，降低成本。
豆包大模型原名“云雀”，是國內首批通過算法備案的大模型之一。字節跳動基于豆包大模型打造了AI對話助手“豆包”、AI應用開發平臺“扣子”、互動娛樂應用“貓箱”，以及星繪、即夢等AI創作工具，并把大模型接入抖音、番茄小說、飛書、巨量引擎等50余個業務，用以提升效率和優化產品體驗。
大模型從以分計價到以厘計價，將助力企業以更低成本加速業務創新?！氨热缫粋€人現在要創業，如果要花1萬元錢調用大模型，可能會覺得有點貴。我們把價格降到1%都不到，相當于花100元錢，就能把大模型用起來，相關想法也就更容易得到嘗試?！弊T待表示，企業的AI轉型充滿不確定性，試錯成本要盡量低，才能更快更多地實現大模型的應用落地，從而讓整個行業受益。
