精准猎取科技资讯,天堂视频在线观看,高效阅读科技新闻_黄色av网站在线免费观看_科技猎

企業用大模型如何更具「效價比」?百度智能云發布5款大模型新品 | 速途網

我是創始人李巖:很抱歉!給自己產品做個廣告,點擊進來看看。  

速途網3月21日訊(報道:喬志斌)服務8萬企業用戶,累計幫助用戶精調1.3萬個大模型,幫助用戶開發出16萬個大模型應用,自2023年12月以來百度智能云千帆大模型平臺API日調用量環比增長97%…從一年前國內大模型平臺的“開路先鋒”到如今的大模型“超級工廠”,百度智能云千帆大模型平臺在國內大模型市場牢牢占據著領先身位,但奔跑的腳步卻并未停歇。

3月21日,百度智能云在北京首鋼園召開千帆產品發布會,百度智能云在大會期間宣布:

1、攜手北京市石景山區,共建全國首個百度智能云千帆大模型產業創新基地,助推區域產業騰飛;

2、滿足企業“效價比”核心訴求,千帆ModelBuilder大模型服務全面升級,3個輕量級大模型、2個垂直場景大模型全新發布;

3、大幅降低AI原生應用開發門檻,千帆AppBuilder組件能力全面升級。

企業用大模型如何更具「效價比」?百度智能云發布5款大模型新品 | 速途網
(百度智能云千帆大模型產業(北京)創新基地啟動建設)

活動中,石景山區政府黨組成員、副區長曹世輝,中關村石景山園管委會副主任崔明明,百度副總裁謝廣軍,百度副總裁石清華共同啟動全國首個百度智能云干帆大模型產業(北京)創新基地。

創新基地致力于推動大模型技術與產業創新深度融合,雙方將圍繞提升算力供給、優化模型算法、推動數據開放、打造示范場景、深化人才引育等方面深耕厚植,政企合力打造人工智能產業新高地。曹世輝副區長表示,石景山區將與百度攜手共進,聚焦人工智能和大模型技術研發和創新應用,構建完善AI 產業生態,為區域數字化轉型和產業智能化升級提供支撐,為新質生產力的培育和發展注入澎湃動能。

企業用大模型如何更具「效價比」?百度智能云發布5款大模型新品 | 速途網
(百度副總裁謝廣軍)

2023年,大模型在全球范圍呈現出爆發式增長,國內更是打起了“百模大戰”,無數科技大廠與科研院所聚焦大模型“本體”,瘋狂“內卷”。

百度副總裁謝廣軍表示,大模型技術在過去一年飛速發展,隨著逐步落地千行百業,2024年將成為國內大模型產業應用爆發的元年。針對企業最關心的大模型落地場景、使用成本、應用開發、應用效果四大挑戰,百度智能云千帆在大模型、AI原生應用開發兩個方面給出了最新“解題思路”。

百度智能云千帆大模型平臺發布“3+2”新模型套餐:提高企業應用大模型的“效價比”

大模型效果是“技術派”的不懈追求,而經濟效益則是“市場派”的終極目標。謝廣軍在與諸多行業客戶的交流中發現,除了極少的大客戶對大模型有極致的效果追求,更多的企業和機構往往要綜合考量大模型的使用效果、性能以及成本,即“效價比”。本次,千帆平臺的模型矩陣針對企業的“效價比”核心訴求進行了一系列升級。

企業用大模型如何更具「效價比」?百度智能云發布5款大模型新品 | 速途網
(百度智能云千帆大模型平臺模型矩陣)

文心大模型ERNIE 3.5是目前百度智能云千帆大模型平臺上最受歡迎的基礎大模型之一。針對用戶的常見通用的對話場景,ERNIE 3.5 在指令遵循、上下文學習和邏輯推理能力三方面分別進行了能力增強。升級后的ERNIE 3.5在企業應用場景如文案創作、信息抽取和工具調用三大場景中,應用表現分別大幅提升24%、27%和22%。

其次,相比超大規模參數的大模型,輕量級大模型的參數量更小,更便于客戶針對特定使用場景進行模型精調,更容易達成使用效果預期,同時節約更多成本開銷。本次大會,百度智能云發布了包括ERNIE Speed、ERNIE Lite、ERNIE Tiny在內,參數量由大到小的三款輕量級大模型,幫助客戶實現“減量不減效”,節約不必要投資。

具體來講,ERNIE Speed作為三款輕量級大模型中的“大個子”,推理場景下擁有最高128k的上下文長度,在處理知識問答等任務時,能夠更好的處理上下文的依賴關系,生成更加連貫和準確的預測或回答。同時,針對特定場景可以將ERNIE Speed作為基座模型進行精調,模型效果可以追平甚至超過旗艦級大參數規模大模型,效價比大幅提升。

相比ERNIE Speed,ERNIE Lite的參數量則更小,也更加適合搭載在低算力的AI加速卡上處理推理任務,在兼顧模型效果與推理性能的同時,大幅降低客戶落地應用成本。作為ERNIE-Bot-turbo模型的升級版,ERNIE Lite在情感分析、多任務學習、自然推理等場景下的應用效果提升了20%。推理調用成本大幅下降了53%!

三款輕量級模型中參數量最小的ERNIE Tiny則為客戶提供了極致低成本、低延遲的最佳選擇。在檢索、推薦、意圖識別等高并發、低延時等應用場景中,ERNIE Tiny的優異性能呈現了不俗表現。在某對話推薦業務場景中,精調后的ERNIE Tiny在搜索引擎推薦詞激發環節,相比ERNIE 3.5,對話輪次增長了3.5%,成本下降了32%。

此外,企業在落地應用中,對大模型在人物扮演、外部工具調用均有更高的效果要求。本次千帆大模型平臺ModelBuilder還基于對企業場景的深入洞察,結合百度自身業務最佳實踐沉淀,推出了ERNIE Character和ERNIE Functions兩款垂直場景大模型,分別適配客戶在角色扮演類應用場景(如游戲NPC、客服對話等)和工具調用場景(對話中使用外部工具、調用業務函數等)中的使用需求。

在企業實踐中,某智能硬件廠商,基于ERNIE Character打造智能助理,應用該模型后在人設一致性、激發并提升用戶聊天欲望等方面效果顯著提升。某旅游出行類APP,使用ERNIE  Functions打造智能客服助手,在執行訂票、查詢航班狀態等多種function調用上準確性達到85%。

千帆AppBuilder全面升級:大幅降低AI原生應用開發門檻

千帆AppBuilder作為產業級AI原生應用開發平臺,是千帆的重要組成部分。AppBuilder底層由基于百度多年技術和實踐經驗沉淀的大模型組件、AI能力組件的基礎組件和面向典型應用場景深入調優建設的一系列高級組件構成。基礎組件與高級組件共同支撐Agent,一方面可以通過工作流編排實現更為復雜的業務邏輯,另一方面Agent也具備強大的自主任務規劃能力,能夠理解用戶意圖自動規劃執行路徑,實現多工具的自動編排和執行。這些能力通過零代碼態、代碼態兩類開發方式提供服務,更好的匹配不同開發者的使用需求。

開發完成后,應用可多渠道分發與集成,AppBuilder支持將應用一鍵分發到微信客服、微信公眾號、Web端/H5及百度靈境矩陣等主流渠道。基于百度靈境矩陣,應用可在百度搜索、百度信息流等主流場景分發與掛載。真正實現應用開發出來后,就直接觸達用戶,打通從AI原生應用創建到開發再到分發的全流程。

(百度智能云千帆AppBuilder)

升級后的AppBuilder開放的工具組件多達55個。包括基于百度多年技術積累和自有業務沉淀的大模型組件、AI能力組件,也包括搜索等百度特色的業務組件、和多場景的第三方API工具,另外還提供了 RAG(知識檢索問答)、GBI(生成式數據分析)等根據典型應用場景深入調優的高級能力組件。

開發AI原生應用離不開云基礎設施,本次發布的基礎組件還包括了百度智能云全新推出的向量數據庫VDB 1.0。向量數據庫是企業不可或缺的知識庫核心組件,它針對傳統知識庫問答系統遇到的性能瓶頸、維護挑戰及規模限制等問題提供了有力解決方案。全新發布的百度向量數據庫VDB 1.0,不僅集成了全面的運維控制和安全防護能力,還兼容了千帆、LangChain等主流生態系統,能夠幫助企業輕松管理數以千萬計的文檔知識,最大支持百億向量存儲規模以及毫秒級的向量檢索速度。同時,相比同類型開源產品,VDB 1.0性能最高提升10倍。

在組件之上,千帆AppBuilder推出的Agent(智能體)應用框架,具備精準的任務自主規劃能力,對多種應用工具的自動編排準確率超過90%,這個數字還在不斷提升。AppBuilder還支持開發者接入自定義工具,通過將自動編排與手動編排相結合,實現更復雜場景應用的需求定制。Agent框架內的代碼解釋器能力,也在本次升級中大幅提升了40%的性能、在復雜的數據分析場景的生成結果可接受度高達95%,輕松應對各類數據分析與信息處理的場景。

此外,AppBuilder的代碼態開發工具也再添利器。AppBuilder SDK本次重磅發布了Agent API,支持開發者將Agent便捷集成到自己的業務系統中,同時AppBuilder SDK面向主流AI原生應用場景提供了豐富的應用樣例,目前已在Github開源,支持各個組件自由調用的靈活編排,幫助開發者實現應用的二次開發和便捷集成。

大會現場,還演示了如何在零代碼開發模式中,只用1分鐘構建一個“英語作文小幫手”Agent(智能體)應用,只需在AppBuilder中輸入應用名稱或希望開發的應用功能,平臺就可以自動生成應用,通過簡單的調整角色指令、添加所需工具組件,就可以快速生成一個英語作文批改小助手。發布后就可直接使用,三步完成應用創建與分發。

在百度智能云看來,隨著大模型技術的不斷演進和突破,工程化實踐與用戶需求適配正在變得愈發重要。只有深入場景,發掘、響應客戶的真實需求,才是釋放創新技術紅利的最佳路徑。

本文被轉載1次

首發媒體 速途網 | 轉發媒體

隨意打賞

提交建議
微信掃一掃,分享給好友吧。
主站蜘蛛池模板: 钢板仓,大型钢板仓,钢板库,大型钢板库,粉煤灰钢板仓,螺旋钢板仓,螺旋卷板仓,骨料钢板仓 | 江西自考网| 工业胀紧套_万向节联轴器_链条-规格齐全-型号选购-非标订做-厂家批发价格-上海乙谛精密机械有限公司 | 上海佳武自动化科技有限公司 | 丝印油墨_水性油墨_环保油墨油漆厂家_37国际化工 | 净气型药品柜-试剂柜-无管道净气型通风柜-苏州毕恩思 | 志高装潢官网-苏州老房旧房装修改造-二手房装修翻新 | 知网论文检测系统入口_论文查重免费查重_中国知网论文查询_学术不端检测系统 | 铝箔袋,铝箔袋厂家,东莞铝箔袋,防静电铝箔袋,防静电屏蔽袋,防静电真空袋,真空袋-东莞铭晋让您的产品与众不同 | 西门子伺服控制器维修-伺服驱动放大器-828D数控机床维修-上海涌迪 | 股指期货-期货开户-交易手续费佣金加1分-保证金低-期货公司排名靠前-万利信息开户 | 重庆轻质隔墙板-重庆安吉升科技有限公司 | LED显示屏_LED屏方案设计精准报价专业安装丨四川诺显科技 | 镀锌钢格栅_热镀锌格栅板_钢格栅板_热镀锌钢格板-安平县昊泽丝网制品有限公司 | 手术示教系统-数字化手术室系统-林之硕医疗云智能视频平台 | 河北码上网络科技|邯郸小程序开发|邯郸微信开发|邯郸网站建设 | 开业庆典_舞龙舞狮_乔迁奠基仪式_开工仪式-神挚龙狮鼓乐文化传媒 | 二次元影像仪|二次元测量仪|拉力机|全自动影像测量仪厂家_苏州牧象仪器 | 小型高低温循环试验箱-可程式高低温湿热交变试验箱-东莞市拓德环境测试设备有限公司 | 防爆电机生产厂家,YBK3电动机,YBX3系列防爆电机,YBX4节防爆电机--河南省南洋防爆电机有限公司 | 真空冷冻干燥机_国产冻干机_冷冻干燥机_北京四环冻干 | 浴室柜-浴室镜厂家-YINAISI · 意大利设计师品牌 | 咿耐斯 |-浙江台州市丰源卫浴有限公司 | 小型高低温循环试验箱-可程式高低温湿热交变试验箱-东莞市拓德环境测试设备有限公司 | 送料机_高速冲床送料机_NC伺服滚轮送料机厂家-东莞市久谐自动化设备有限公司 | 地磅-地秤-江阴/无锡地磅-江阴天亿计量设备有限公司_ | 无负压供水设备,消防稳压供水设备-淄博创辉供水设备有限公司 | 滤芯,过滤器,滤油机,贺德克滤芯,精密滤芯_新乡市宇清流体净化技术有限公司 | 上海璟文空运首页_一级航空货运代理公司_机场快递当日达 | 钛板_钛管_钛棒_钛盘管-无锡市盛钛科技有限公司 | 光照全温振荡器(智能型)-恒隆仪器 | 不锈钢复合板|钛复合板|金属复合板|南钢集团安徽金元素复合材料有限公司-官网 | 气动隔膜阀_气动隔膜阀厂家_卫生级隔膜阀价格_浙江浙控阀门有限公司 | 防锈油-助焊剂-光学玻璃清洗剂-贝塔防锈油生产厂家 | 合肥办公室装修 - 合肥工装公司 - 天思装饰| 篮球地板厂家_舞台木地板品牌_体育运动地板厂家_凯洁地板 | AGV无人叉车_激光叉车AGV_仓储AGV小车_AGV无人搬运车-南昌IKV机器人有限公司[官网] | 高速混合机_锂电混合机_VC高效混合机-无锡鑫海干燥粉体设备有限公司 | 高铝矾土熟料_细粉_骨料_消失模_铸造用铝矾土_铝酸钙粉—嵩峰厂家 | 中视电广_短视频拍摄_短视频推广_短视频代运营_宣传片拍摄_影视广告制作_中视电广 | BHK汞灯-百科|上海熙浩实业有限公司 | 聚合甘油__盐城市飞龙油脂有限公司 |