大模型服務平臺“火山方舟”日前在“V-Tech體驗創新科技峰會”上發布。該平臺集成了復旦大學MOSS、IDEA研究院等多家AI科技公司及科研院所的大模型,面向企業提供模型精調、評測、推理等服務。
中國科學技術信息研究所等機構發布的《中國人工智能大模型地圖研究報告》顯示,截至今年5月,國內已公開披露的大模型數量達到79個。與小模型“自產自用”不同的是,大模型的生產門檻很高,數據安全成為大模型時代的新命題。火山引擎總裁譚待表示,大模型服務平臺的首要任務就是做好大模型使用者、提供者和云平臺可以互相信任的安全保障。
火山引擎智能算法負責人吳迪介紹,平臺已上線基于安全沙箱的大模型安全互信計算方案,利用計算隔離、存儲隔離、網絡隔離、流量審計等方式,實現了模型的機密性、完整性和可用性保證,適用于對訓練和推理延時要求較低的使用者。他們還在探索基于NVIDIA新一代硬件支持的可信計算環境、基于聯邦學習的數據資產分離等多種方式的安全互信計算方案,更全面地滿足大模型在不同業務場景的數據安全要求。
據了解,目前“火山方舟”還在起步階段,工具鏈和下游應用插件需要持續完善。平臺還將接入更多大模型,并逐步擴大邀測范圍,共建開放合作的多模型生態,加速大模型在各行各業的應用落地。