旗下微信矩阵:

豆包大模型日均tokens使用量超5,000亿,火山引擎全栈AI服务升级助企业加速AI转型

2024-07-26 10:59 · 互联网

7月25日,2024火山引擎 AI 创新巡展·成都站正式举办。截至7月,豆包大模型日均 tokens 使用量已突破5,000亿。平均每家企业客户日均 tokens 使用量较5月15日模型发布时期增长了22倍。会上带来豆包大模型最新能力升级,火山方舟、扣子专业版、HiAgent 和云基础设施也迎来了全面更新。

image.png

火山引擎副总裁张鑫

火山引擎副总裁张鑫表示,火山引擎在高速自我迭代,走向更加智能化、行业化和区域化。他说:“通过针对性的行业方案、产品和优化服务,相信在未来,会有更多西南区域的企业借助豆包大模型和火山引擎的力量,实现业务创新,从而为经济发展注入新的活力。”

01.

豆包大模型日均tokens

使用量破5,000亿,并带来系列更新

只有大的使用量,才能打磨出好模型。截至今年7月,豆包大模型日均 tokens 使用量超过5,000亿。自今年5月15日豆包大模型发布的2个月内,平均每家企业客户日均 tokens 使用量增长了22倍。

image.png

火山引擎大模型服务算法架构师 孙帆

火山引擎大模型服务算法架构师孙帆指出,爆发式增长背后,是豆包大模型强大的模型能力和优秀的应用效果。火山引擎在今年5月发布豆包大模型,提供包含大语言模型、语音模型、视觉模型的豆包模型家族,以满足不同场景的关键需求。其中,主力模型豆包通用模型pro 在多个公开评测集以及专业的第三方评测中表现出众,是得分最高的国产大模型。

在视觉图像、语音方面,火山引擎全新发布了豆包·图生图模型,并对豆包·文生图模型、豆包·语音合成模型、豆包·声音复刻模型进行升级,以服务企业在丰富业务场景中获得更高性价比。

豆包·图生图模型:不仅能高度保留原图的人物轮廓、表情、空间结构等多维特征,还支持50余种不同风格,支持图片扩展、局部重绘和涂抹玩法,让图片进行创意延展。现已应用于抖音、剪映、豆包、星绘等应用,并已服务于三星、努比亚等企业,涵盖了手机相册、工具助手、电商营销、广告投放等多个领域。

豆包·文生图模型:深度理解多数量主体、主客体关系、人物构造、空间构造等信息,图文匹配更精准;更善于从光影明暗、氛围色彩和人物美感三个方向提升画面质感;优化中国特色内容,能够对中国人物、物品、朝代、地理、美食、节日等进行细分理解。

豆包·语音合成模型:能深度理解故事情节和人物角色,正确表达情绪;保留吞音、口音等发音习惯,媲美真人音色,让发声更自然;26个精品超自然音色,满足多种场景需要。

豆包·声音复刻模型:仅需5秒即可复制一个高保真音色,高度还原说话人声音特征和口音,支持跨6大语种迁移,发音更接近于当地人表达。

02.

火山方舟

保障大模型场景落地

模型服务落地的核心是保证企业大使用量推动下,模型效果更好、系统承载力更强、模型性价比更高。为帮助企业更便捷落地大模型,火山方舟提供核心插件和智能体能力,以及全周期数据安全可信方案,为企业 AI 应用保驾护航。

其中,头条抖音同款三大插件——联网插件、内容插件和 RAG 知识库插件能力再次升级,还新增了网页解析插件和计算器插件,进一步扩宽模型能力的边界,支持企业多样的应用需求。

智能体是大模型落地有效路径。为帮助企业“低门槛”开发智能体,火山引擎提供扣子专业版,支持低代码构建契合企业业务场景的专家型“AI Bot”,并通过专业级 SLA 和多种高级特性保障 AI 应用在企业中高效落地。

03.

HiAgent帮助企业AI技术迈向成熟

大模型落地还需要具备足够成熟的路径。火山引擎打造 HiAgent 企业专属 AI 应用创新平台,帮助企业打通拥抱大模型的最后一公里。

image.png

火山引擎 HiAgent 产品负责人 于鸿磊

火山引擎 HiAgent 产品负责人于鸿磊从速度、密度、厚度三个维度介绍了 HiAgent 如何全方位赋能企业 AI 应用的快速落地与持续优化:

速度:HiAgent 将模型应用开发方式从代码进化到自然语言,业务人员可以利用提示词、知识库、插件等工具,像搭积木一样低代码搭建智能体,提升应用创新的“速度”。

密度:增强的企业级知识库 RAG,让知识沉淀萃取成智慧,在企业流程中体现知识的“密度”。

厚度:HiAgent 丰富的专属企业级特性,允许企业自定义新 AI 中台,并支持混合部署,积累 AI 资产,让 AI 能力有“厚度”。

HiAgent 在消费、教育、医疗等多行业取得丰富落地实践,为海尔集团旗下汽车产业互联网平台卡泰驰、南开大学、协和医院等客户打造智能助手等工具,提升业务效率。

04.

AI全栈云

为大模型落地提供算力保障

AI 应用的爆发式增长,也驱动着算力需求不断升级,云基础设施在集群建设和管理、性能、稳定性等方面都面临着严峻挑战。

火山引擎 AI 全栈云依托字节跳动的海量资源共池,支持多芯、多云架构,拥有超大规模算力,支持万卡集群组网、万亿参数 MoE 大模型;提供超高性能网络,支持3.2Tbps RDMA 网络,全球网络 POP 覆盖广,时延优化最高达75%;提供优质的存储性能,文件存储 vePFS 支持 2TB/s 吞吐并行存储、3,000万 IOPS;提供毫秒级性能监控,智能 GPU 自愈能力,保障计算资源的稳定运行;提供灵活的资源使用和计费方式,自研 mGPU 容器共享方案,GPU 利用率提升100%+,为生成式 AI 工作负载提供更高性价比的算力资源;强大的弹性调度能力,支持分钟级创建千台实例;提供一站式资源服务和全链路数据管理能力,助力企业高效、弹性构建 AI 训练或推理业务,加速企业实现 AI 应用落地,释放 AI 创新潜力。

image.png

火山引擎云基础解决方案负责人 王佳毅

火山引擎云基础解决方案负责人王佳毅表示,火山引擎不断追求*性价比,为客户提供开放、普惠、值得信赖的 AI 全栈云服务,助力 AI 应用敏捷迭代实现“更省、更快、更稳”。

05.

大模型走深向实

在多行业扎根结果

大模型的兴起正引领着各个行业发生深刻的变革,为了帮助企业寻找适合自己的 AI 应用场景并实现落地。本次巡展特邀来自鱼泡科技、封面传媒、晓多科技、西南交通大学的行业专家们就大模型在不同领域的落地应用进行了分享。

image.png

鱼泡科技 CDO 徐飏

鱼泡科技是西南区域的明星企业。作为全国*的蓝领招聘平台,鱼泡科技现在的豆包大模型日均调用量已超1亿 tokens,覆盖了岗位要求识别、工种识别、求职意向识别等完整的大模型应用场景。鱼泡科技 CDO 徐飏指出,与豆包大模型合作后,相关业务场景精度和效率均获得提升。

image.png

四川封面传媒科技有限公司副总经理兼首席数据官 徐桢虎

四川封面传媒科技有限公司副总经理兼首席数据官徐桢虎,介绍了大模型如何重构新闻生产模式,他表示传媒一直处于技术驱动的潮头浪尖,封面传媒与火山引擎携手,共同构建传媒领域的大模型,致力于推动技术革新和行业进步。通过深度合作,双方将传媒行业的专业知识与先进的大模型技术相结合,引领用户进入一个充满创新与互动的传媒新纪元。

image.png

晓多科技首席技术官 向海

晓多科技是以智能对话为核心的认知智能 SaaS 产品和行业数智化解决方案服务商。晓多科技首席技术官向海表示,公司通过使用豆包大模型,成功打造了“AI 训练场”,将客服培训周期缩短了50%以上。此外,晓多科技还推出了“多策”全渠道智能知识库,该知识库基于大模型技术,实现了一键部署和全面覆盖,以智能化、自动化手段显著提升客服效率,使消费者满意度提升5%、消费者转化率提升5%。

image.png

西南交通大学信网处数据与信息系统办公室主任 张翔

西南交通大学信网处数据与信息系统办公室主任张翔表示,在教育行业,大模型的应用场景路线探索显得尤为重要。西南交通大学将响应教育部号召,联手包括火山引擎在内的国内一流厂商,在人工智能的多个关键领域展开大模型应用合作:在大模型+管理服务方面,结合大模型技术,探索为学生和教职工提供一站式服务的百事通场景;在大模型+教学方面,探索学生智能助教场景,为教师提供试题生成、教案生成和错题解析服务;在大模型+科研方面,探索大模型学术知识挖掘系统场景,助力科研人员高效、精准地进行学术探索和决策。

image.png

圆桌对话

圆桌环节,来自书声科技、百词斩、135编辑器的嘉宾,共同围绕大模型应用于企业级场景和消费级场景的前景等话题进行了深入探讨。

image.png

《生成式 AI 商业落地白皮书》发布

除了行业嘉宾的大模型落地经验分享外,火山引擎还联合 Rolling AI 和 infoQ 研究中心发布了《生成式 AI 商业落地白皮书》。该白皮书涵盖从场景选择到落地方法论,企业可以从中获取 AI 转型的思路和策略,明晰如何在自身业务中巧妙引入生成式 AI 技术,从而实现创新与突破。

从技术创新走向商业落地,豆包大模型将持续以更强模型、更低价格、更易落地的优势助力企业 AI 转型。火山引擎也将坚持把技术创新转化为实际生产力,与广大企业携手推进 AI 转型落地,激发业务增长潜能。

7月25日起至9月,“2024火山引擎 AI 创新巡展”将陆续在成都、厦门、上海、天津、深圳五大城市落地。下一站,厦门见。

(免责声明:本文转载自其它媒体,转载目的在于传递更多信息,并不代表本站赞同其观点和对其真实性负责。请读者仅做参考,并请自行承担全部责任。)