數據交易導航網是一個數據要素市場相關的數據交易、數據管理、數據服務等數商企業商業生態導航平臺。
字節跳動旗下的火山引擎召開發布會,首次正式公布在大模型領域的研發布局和合作進展,并發布大模型服務平臺“火山方舟”,提供模型訓練、推理、評測、精調等全方位功能與服務。
“火山方舟”由字節跳動旗下火山引擎搭建,提供了一個大模型服務平臺,供開發者和企業使用。其運營模式是,在一個平臺內提供多個模型,企業可同步試用多個大模型,選用更適合自身業務需要的模型組合。
對模型提供方,通過 “火山方舟”能夠以更低的成本觸達海量客戶,更小的代價在ToB市場實現規模化;嚴謹的安全互信機制,兼顧靈活性與安全性;源源不斷的算力,形成最具競爭力的性價比。對模型使用者來說,通過 “火山方舟”可以便捷地接觸到眾多高質量的基座模型,一站式對接多家模型提供商,為不同場景選擇最合適的模型。
具體來看,“火山方舟”基于大模型應用的工作習慣,打造了多個核心部分。“模型廣場”會有不同的模型供應商提供不同版本和尺寸的模型,用戶可以直接與模型交互,調用推理API,接入生產環境;“模型評估”是“火山方舟”重點打造的環節入口,用戶可以基于業務需求設計一套可量化的評估指標,在模型評估后挑選最合適的模型;“模型精調”可以幫助客戶利用自有數據進行持續訓練,建設和積累自己的精調數據集,降低推理成本。
目前,抖音集團內部已有十多個業務團隊試用“火山方舟”,在代碼糾錯等研發提效場景,文本分類、總結摘要等知識管理場景,以及數據標注、歸因分析等方面探索,利用大模型能力促進降本增效。這些內部實踐在快速打磨“火山方舟”,推動平臺能力的進一步完善。
此外,為促進模型提供方和模型使用方的互信,“火山方舟”上線了基于安全沙箱的大模型安全互信計算方案,利用計算隔離、存儲隔離、網絡隔離、流量審計等方式,實現了模型的機密性、完整性和可用性保證,適用于對訓練和推理延時要求較低的客戶。