字節跳動豆包大模型發布,火山引擎全棧 AI 服務助力企業智能化轉型
火山引擎總裁 譚待
企業要做好大模型落地,面臨模型效果、推理成本、落地難度的三大關鍵挑戰:既要有好的基礎大模型做支撐,解決復雜難題,也要有低成本的推理服務讓大模型被廣泛應用,還要更多工具、平臺和應用幫助企業做好場景落地。
——譚待 火山引擎總裁
01.
豆包大模型首次亮相
大使用量打磨好模型
模型效果是 AI 落地最關鍵的挑戰。譚待指出,只有大的使用量,才能打磨出好模型。目前,豆包大模型日均處理1,200億 tokens 文本、生成3,000萬張圖片。
為助力企業做好大模型場景落地,字節跳動自主研發的豆包大模型將通過火山引擎正式對外提供服務,企業可根據自身業務場景需求靈活選擇、快速落地:
- 豆包通用模型pro:字節跳動自研LLM模型專業版,支持 128k 長文本,全系列可精調,具備更強的理解、生成、邏輯等綜合能力,適配問答、總結、創作、分類等豐富場景;
- 豆包通用模型lite:字節跳動自研LLM模型輕量版,對比專業版提供更低 token 成本、更低延遲,為企業提供靈活經濟的模型選擇;
- 豆包·角色扮演模型:個性化的角色創作能力,更強的上下文感知和劇情推動能力,滿足靈活的角色扮演需求;
- 豆包·語音合成模型:提供自然生動的語音合成能力,善于表達多種情緒,演繹多種場景;
- 豆包·聲音復刻模型:5秒即可實現聲音1:1克隆,對音色相似度和自然度進行高度還原,支持聲音的跨語種遷移;
- 豆包·語音識別模型:更高的準確率及靈敏度,更低的語音識別延遲,支持多語種的正確識別;
- 豆包·文生圖模型:更精準的文字理解能力,圖文匹配更準確,畫面效果更優美,擅長對中國文化元素的創作;
- 豆包·Function call模型:提供更加準確的功能識別和參數抽取能力,適合復雜工具調用的場景;
- 豆包·向量化模型:聚焦向量檢索的使用場景,為 LLM 知識庫提供核心理解能力,支持多語言。
譚待介紹,早在去年,豆包大模型(原名:云雀)就在字節跳動內部完成了上線,也是首批通過大模型服務安全備案的大模型之一。字節跳動內部50多個業務已經大量使用豆包大模型進行 AI 創新,包括抖音、頭條等數億 DAU 產品。基于豆包大模型同名打造的豆包 APP,在蘋果 APP Store 和各大安卓應用市場,豆包 APP 的下載量在 AIGC 類應用中排名第一*。
*數據來源:QuestMobile
字節跳動產品和戰略副總裁 朱駿
字節跳動產品和戰略副總裁朱駿介紹了字節跳動基于豆包大模型打造 AI 原生應用的產品理念。他表示,技術在快速演化,但用戶核心的需求沒有改變,比如高效獲取信息的需求、工作提效的需求、自我表達的需求、社交娛樂的需求等。字節跳動做了很多學習和探索,希望找到適合的大模型應用形態,以自然的交互形式服務用戶,走入更多人的生活和工作。
豆包 APP 是字節跳動重點投入的大模型應用,據朱駿透露,豆包平臺月度活躍用戶達到2,600萬,已有超過800萬個智能體被創建。
豆包大模型在服務字節內部的同時,也在與火山引擎的眾多企業客戶合作共創。譚待認為,企業在不同業務場景中,需要不同特點的模型,從而實現最佳效果和性價比。為此,豆包大模型提供的是一個多模態模型家族,企業可根據自身業務場景需求靈活選擇,實現模型使用及成本控制的正循環。
02.
人人用得起
才是好模型
譚待認為,降低成本是推動大模型快進到“價值創造階段”的一個關鍵因素。豆包主力模型在企業市場的定價只有0.0008元/千 tokens,0.8厘就能處理1,500多個漢字,比行業便宜99.3%。
以豆包通用模型pro-32k 版為例,模型推理輸入價格僅為0.0008元/千 tokens。而市面上同規格模型的定價一般為0.12元/千 tokens,是豆包模型價格的150倍。大模型價格,進入“厘時代”。
譚待表示,大模型“卷”價格,將助力企業以更低成本加速業務創新。
03.
方舟2.0升級
推進大模型價值創造
去年,火山引擎發布了一站式大模型服務平臺火山方舟,希望通過模型即服務的理念,幫助企業在高效、安全的環境里應用各類模型。今年,火山引擎對方舟平臺進行了全面升級,升級后的火山方舟2.0將大幅提升模型效果、核心插件、系統性能以及平臺體驗,幫助企業推進大模型的價值創造。
在插件和工具鏈上,方舟2.0升級了聯網插件,提供頭條抖音同款搜索能力,實時連接海量優質數據,同時使用文本、圖像、語音等多模態交互方式,并通過業內領先的意圖識別能力,大幅提升模型的信息獲取能力;升級內容插件,提供頭條抖音同源海量內容,支持多模態交互,提供基于意圖的垂類內容信息檢索,內容時效檢索更強,幫助大模型深入理解、檢索和生成內容;升級知識庫插件,提供毫秒級百億規模的高性能檢索,秒級流式知識庫索引更新,內嵌豆包向量化模型,提高搜索的相關性和準確性。
除以上核心插件升級之外,火山方舟2.0也全面升級了系統承載能力、安全防護能力和算法服務能力。在系統承載力上,提供充沛的 GPU 算力資源,分鐘級千卡擴縮容的超強彈性,保障業務穩定和成本可控;在安全防護上,通過安全沙箱構建可信的執行環境,多維度的安全架構,保障數據安全;此外,火山引擎提供專業的算法團隊服務,幫助客戶釋放獨有數據價值,讓企業大模型應用輕松落地。
扣子產品經理 潘宇揚
除了好的模型效果、便捷的插件、強勁的系統性能,還需要提供簡單易用開發平臺,才能讓所有人都能成為 AI 應用的開發者。扣子產品經理潘宇揚介紹,扣子(coze)作為字節跳動推出的新一代 AI 應用開發平臺,具備低門檻、個性化、實時性、多模態等優勢,并集合海量的 AI 資源、豐富的發布渠道、一鍵自定義 API 服務,幫助填補大模型到用戶場景的最后一公里。
火山引擎正式發布了扣子專業版。扣子專業版在扣子可視化靈活編排智能體的能力基礎上,進一步提供企業級 SLA 和多種高級特性,使 AI 應用更易落地,讓企業更專注于通過智能體創新,驅動業務增長。
譚待表示,火山引擎致力于成為 AI 時代最開放和領先的云服務平臺。全新升級的火山方舟2.0將通過更強性能、更優插件、更好服務以及安全可信方案,助力大模型應用落地。
04.
廣泛落地實踐
多行業結出碩果
豆包大模型和火山方舟2.0目前已經在金融、汽車、智能終端、電商零售、教育科研等多個行業實踐落地。招商銀行、海底撈火鍋、超級猩猩、攜程旅游、飛常準、獵聘等企業也已經在扣子上搭建了智能體。復旦大學、浙江大學等名校也為課程和實驗搭建了 “AI 助教”。
招商銀行數字金融發展辦公室主任 高旭磊
作為金融行業 AI 轉型的踐行者,招商銀行正在智能外呼、數字人、智能數據助理等上百個 AI 服務場景探索和投入。招商銀行數字金融發展辦公室主任高旭磊表示,大模型將為銀行全鏈條業務帶來改造和升級。攜手火山引擎,雙方將共建大模型應用場景及高性能基礎設施,改造現有系統和產品,催生大量以 AI 為核心的智能體應用。
蒙牛集團副總裁、首席數智官 李琤潔
蒙牛集團副總裁、集團首席數智官李琤潔從生產工具進化、生產方式進化、組織方式進化的三個方面介紹了蒙牛集團的數智化歷程。蒙牛集團正與火山引擎合作夯實技術底座,并構建了 AI 營養專家、AI 育嬰師、AI 數據分析師、產品創新助手、熱點創意助手等智能體矩陣,提升前端消費者體驗,助力后端運營人員決策。
智能終端大模型聯盟發布
會上,火山引擎與 OPPO、vivo、榮耀、小米、三星、華碩宣布成立智能終端大模型聯盟。OPPO 小布助手、榮耀 MagicBook 的 YOYO 助理、小米“小愛同學”、華碩筆記本電腦的豆叮 AI 助手等應用,均已接入火山引擎的大模型服務。
汽車大模型生態聯盟發布
同時,火山引擎聯合中國電動汽車百人會與吉利汽車、長城汽車、捷途汽車、賽力斯、智己汽車等20余家廠商,宣布成立汽車大模型生態聯盟,致力于探索新一代人車交互新形態,提升汽車全場景 AI 新體驗。
兩大聯盟企業 OPPO 和捷途汽車也分別就自身的大模型實踐進行了分享:
OPPO 智能助理部部長、小布助手首席架構師 萬玉龍
OPPO 智能助理部部長,小布助手首席架構師萬玉龍分享了 OPPO AI 手機的大模型應用實踐,他表示,目前小布助手已經覆蓋3.5億終端設備,月活躍用戶數超1.5億。在火山方舟上,OPPO 通過意圖識別大模型、聯網總結大模型、個性化人物大模型和豆包大模型構建了通用問答、伶俐小妹、面試官等智能體,為終端用戶帶來了全新的 AI 體驗。
捷途汽車數字化負責人 劉航
捷途汽車數字化負責人劉航表示,捷途汽車希望通過大模型擴大自身服務能力、洞察用戶真實需求,進而提升銷售效率和能力。攜手火山引擎,雙方圍繞客服場景進行了共創,所打造的智慧客服 AI 小捷,在節省人力的同時,還能幫助客服人員快速獲取信息,服務客戶。未來,捷途汽車還希望通過大模型進一步實現座艙、決策、營銷的智能化升級。
05.
多款 AI 應用發布
快速落地開箱即用
除大模型服務平臺以外,AI 應用也是火山引擎全棧 AI 服務的關鍵組成。
去年,火山引擎提出了企業數智化升級新模式——數據飛輪,該模式以數據消費為核心驅動力,使企業數據流充分融入業務流,實現數據資產和業務應用的飛輪效應。為了讓企業數據消費更普惠、更便捷,火山引擎智能數據洞察 DataWind 正式發布 AI 助手 ChatBI,用戶可通過自然語言交互生成指標,用于圖表制作、數據查詢,還可進行深度數據分析,且 ChatBI 支持 IM 交互,可多端應用,隨時隨地自助分析,這將大幅降低數據消費門檻,提升讀數、用數效率,為數據飛輪加速運轉提供動力。
面向營銷場景,火山引擎進行了智能創作云2.0的升級,成為從內容創作、矩陣分發、廣告投放到數據洞察一站式的企業內容營銷增長方案;不僅提供多模態的理解與生成能力,助力視頻創作效率提升25倍,更上線抖音話題、POI、小程序等營銷工具,使門店頁面曝光提升600%。目前已經有3,000+企業在火山引擎開啟 AIGC 視頻營銷增長。
面向銷售場景,火山引擎發布了銷售 AI 助手 Sales Copilot,能夠高效跟進客戶需求,隨時輔助銷售解答復雜的產品問題。此外,它還能通過角色扮演的方式模擬不同風格的對客演練,并提供優秀話術學習,提升銷售溝通質量。
火山引擎一直致力于構建開放共享的生態理念,自2021年發布萬有計劃以來,已經幫助100+家 SaaS 企業實現了業務增長,實現近萬單客戶簽約。豆包企服聯盟,是萬有計劃針對大模型落地的專項計劃。萬有計劃·豆包企服聯盟將提供一攬子支持規劃,幫助 SaaS 企業實現 AI 升級,為行業客戶提供更多開箱即用的 AI 應用。
06.
AI 基礎設施再升維
云端算力可靠保障
大模型時代,集群管理復雜度、網絡性能、穩定性是云基礎的關鍵挑戰。為應對上述挑戰,火山引擎基于內外共池的資源規模優勢和內部實踐,圍繞大集群建設、管理、性能優化、穩定性保障提供了一套業界領先的解決方案。
NVIDIA 解決方案和工程副總裁 賴俊杰
會上,火山引擎正式發布 veOmniverse,基于 NVIDIA Omniverse 為企業、開發者提供全新的云上開發平臺,助力企業與開發者在互聯的虛擬世界中,圍繞工作流程展開高效的設計和協作,探索和打造智能逼真的虛擬世界。
除為客戶提供高穩定性和高性能的云基礎設施外,面對本地部署需求,火山引擎也全新發布了混合云 veStack 智算版,具有萬卡集群組網,3.2T 高性能無損網絡的超大規模優勢;端到端工程化所支撐的極致性能,能夠實現97.78%訓練加速比和分鐘級故障發現和自愈;擁有多元異構能力,可適配十余種 GPU,支持主流國產化 GPU。
完整的 AI 應用除 GPU 負責的密集計算外,存量 CPU 負載也需要持續降本增效,保障業務輕裝上陣,加速創新。從計算、存儲、網絡、運維4個層面,火山引擎全力支持客戶云上業務穩定運營。
End
從技術創新到商業落地,大模型已經為各行業的 AI 轉型提供了強大的動能。火山引擎基于字節跳動在大模型領域的實踐沉淀,通過大使用量打磨出好模型,以技術驅動的極致性價比讓大模型人人用得起,通過各行業豐富的落地經驗與算法服務陪伴客戶一起成長。未來,火山引擎全棧 AI 服務將持續助力企業 AI 轉型落地,激發業務增長潛能。
























