旗下微信矩阵:

大模型时代的客服:危机中迭代,内卷中出海

当激动的产品经理碰到冷静的商业化团队,客服行业如何基于大模型改造现有产品,如何重新定义产品功能与用户体验,新产品能否规划化、商业化,一系列新问题都亟待解决。
2023-06-13 09:08 · 微信公众号:亿邦动力网 胡镤心

当一个成熟行业遇上一项新技术,变革绝没有想象中那么简单。

客服行业一直被认为是大模型*的落地场景之一。同样基于自然语言,同样以对话服务为主,甚至大模型的对话框总令人不由自主想到客服的对话框。

对客服企业的产品经理来说,客户的聊天兴趣和聊天时长至关重要。“只要客户不挂机,就有成单的可能。”天润融通首席科学家田凤占介绍。

客服是一个极度成熟、极度内卷的行业,从最早使用电话的呼叫中心,到如今云化、SaaS化的联络中心,客服行业早已经历了多轮洗牌。与产品经理对大模型的兴奋相反,客服企业的商业化团队却极度冷静,担心一招不慎影响到现有产品。

如何保证数据安全?标注和训练多久ready?边际成本算得过来吗?

商业化团队的这些担心不无道理。“大家都有主营业务,谁敢冒这个险,把主营业务给干没了。”有头部厂商的商业化负责人分析。

当激动的产品经理碰到冷静的商业化团队,客服行业如何基于大模型改造现有产品,如何重新定义产品功能与用户体验,新产品能否规划化、商业化,一系列新问题都亟待解决。

01 接入大模型,做“金牌客服”

“要疯了”,这是Sobot智齿科技CTO吴立楠在“百模大战”拉开帷幕后的感受,彼时国外创业公司如雨后春笋,“大模型可以识别各种各样的文本素材,今天冒出一个基于文本的问答机器人,明天冒出一个基于PDF的问答机器人,后天又来一个基于脑图的机器人,客服行业太卷。”

这种卷对客服企业来说已经习以为常。此前,客服行业已经经历了两次“被颠覆”:*次是呼叫中心从硬件向软件的转型(从语音卡+多媒体交换机走向软件+网关),发生于2006-2012年,70%的厂商消失在牌桌上;第二次是服务商集体SaaS化、云化,转型慢的企业开始掉队,发生于2013-2016年。

“所以我们对技术变革非常敏感。”天润融通首席科学家田凤占表示。天润融通成立于2006年,崛起于客服行业*次转型期,经历了软件化和SaaS化两轮考验。去年年底,天润融通成立大模型研究团队,今年3月推出大语言模型垂直行业解决方案。

今年2月份,Sobot智齿科技CEO徐懿与CTO吴立楠也成立项目团队,将产品、算法、研发等部门的VP拉到一起,每周开脑暴会,一边研究能做什么,一边罗列客户痛点,同时找市场部做客户调研。

Sobot智齿科技的一体化客户联络解决方案,涵盖“服务、营销、私域、BPO外包”四大业务板块。4月4日,AIGC+智能客服融合能力Sobot AI上线,可以实现双库调用、自动应答、文本/文件材料上传等功能。

除了大模型带来的热度,在极度内卷的客服行业,客户难得对一个新产品感兴趣。“只要客户感兴趣,我们就能做得出来。”这是不少从业者的心声。

Sobot AI上线后,智齿科技后台有超过120家企业排队测试,每周都有20家新增客户,其中一半是新客户。智齿科技从一开始一周测试两家企业,到一周测试二十家企业。同时Sobot AI也在每周迭代。

只不过相比于海外创业公司只要装一个接口就可以上线新产品,国内的产品迭代更复杂——要基于新技术和现有产品之间的逻辑,重新定义产品功能,同时开展市场调研与客户反馈,再通过数据选择客户最痛的点进行产品化。

“相比那些从0到1的企业,我们迭代更加小心。”吴立楠解释。“如果在2014、2015年,一个惊人的产品横空出世,大家还会打一打,但现在,头部企业都经历了八九年的产品迭代,仅凭单一产品已经很难竞争了。

容联云AI研究院院长刘杰指出,智能客服作为一种成熟的商业化品类,背后并非只有AI技术,而是融合了多种技术、涵盖“产品+运营+服务”的一体化解决方案。

比如容联七陌的客服机器人X-bot,在售前咨询中接入全渠道流量,建立用户画像;在售中记录详细需求,并通过CRM协作进行精准营销;售后还能支持跨部门协作,处理客户全生命周期的场景。

大模型引发关注后,容联七陌也组建了AIGC专项计划,*时间拿到百度文心一言的内测接口,进行专项落地开发。4月底,容联七陌将大模型能力应用在X-Bot机器人中,实现自动生成语料、话术、流程方案等。

“想象一下,客户打来电话说电脑坏了,我们不需要再人工坐席,因为我们有一个大模型可以自动识别客户需求并归类,提高处理速度和准确率。”容联七陌AI产品负责人刘倩介绍说,“而且服务结束后,我们的大模型还会自动将对话记录整理成企业知识库。管理者需要采纳某条记录,也不用费心思去手动处理,只需要告诉大模型一声,它就会自动为你完成。这样不仅提高服务质量,还优化了整个服务流程。”

02 ChatGPT能让智能客服更上一层楼吗?

令客服企业充满危机感的,除了同行之间竞争,更重要的是那句口号“大模型重构一切。”

大模型将如何颠覆客服?这成为悬在所有人头上的达摩克利斯之剑。

但不少从业者都认为,“大模型对客服行业的影响,短期被高估,长期被低估。

“短期来看,大模型只起到提效的作用。”吴立楠指出,“毕竟大模型落地需要载体,客服厂商占着应用场景,也占着业务熟悉度。但是长期看,客服的交互界面和产品形态还是不是现在这样,都是问题。在通用人工智能时代,可能消费者对着智能助理提出要求,后面就是AI和AI之间的交流。”

纵观市场上的所有尝试,亿邦动力注意到,AIGC+智能客服的实践目前主要集中在三个方面:

提升知识库建设和运营效率

大模型带来的*个改变就是企业知识库的建立和维护效率。

“机器人最常见的问题是冷启动。因为机器人在刚开始掌握的知识不够,需要不断添加语料,这个过程有些长。而且在冷启动阶段,机器人的服务能力通常比较弱。”田凤占在天润融通的直播中介绍。

通过AIGC模型,客户或训练师只要写两三条语料,就可以用大模型生成几十条或几百条语料。扩出来的语料经过剔除、检测等健康检查,就可以上线。

田凤占介绍,有一个客户有6000多条问答对,重复性很高,机器人回答的准确率只有43%。天润融通在一小时内将6000多条问答扩写至30万条,准确率提升到75%。“如果用手工写30万条,那至少要写一年。”

同时,大模型还可以自动抽取文档信息,提炼“问答对”。在天润融通的大语言模型垂直行业解决方案中,Word文档、PDF文件中的内容,都可以直接被生成为答案,运营人员只需要审核答案和进行调优。内测结果显示, 大模型可以节省高达约54.5%的知识管理成本。

提高直接回答率

客服行业常见的另一个问题是“答非所问”。一些客户会因为机器人三番五次没有提供答案而转接人工客服。

“过去客服‘智障’的原因是不够智能,理解访客提问上需要大量的语料泛化,而且对上下文理解不够好,容易出现答非所问。”刘倩指出,“大模型恰恰相反,不需要太多数据量,不需要对模型参数进行改动,就能提供非常优秀的语言理解能力,并且它的强项是生成,不但能懂你问什么,而且还能给出相当流畅、富有逻辑性的答案。如果AIGC能应用在企业服务中,那在服务的能力、满意度、问题解决上无疑又是一个巨大的突破,而且人力成本还更低了。”

“不管在联络上还是电销上,大模型可以和客户更好互动,这就有望提高客户的兴趣度和互动时长。提高客户的互动时长,相当于提高了电销的转化率。只要客户不挂机,就有成单的可能。”田凤占介绍。

而在智齿科技的实测中,有了大模型之后,客服的直接回答率普遍提升20%左右,最夸张的企业直接回答率提升从30%提升至80%。

提升企业运营效率

大模型还在改变程序员们的工作效率。

今年年初,智齿研发中心多条技术线的负责人将大模型引入研发的IPD流程,目前超过一半的程序员通过大模型自动生成代码。

To B公司看人效,吴立楠强调,AIGC实际上将之前一些伪装成脑力劳动的体力劳动,又变回了体力劳动。“有很多重复性工作,比如有些客服工作只需要调用知识库就能回答,有一些程序员只写增删改查,这些都是伪装成脑力劳动的体力劳动,现在它们又回归体力劳动本身。”

同时程序员的工作重心会转移,研发部门的组织结构也将随之调整。“以前是少部分人设计程序结构,大部分人写代码实现。以后可能大部分程序员都会去设计程序结构,具体的代码实现由大模型来做。”吴立楠补充。

值得注意的是,大模型落地除了需要相应的梳理产品逻辑和客户测试,还需要配套产业的成熟。

刘杰指出,作为一种商业化产品,智能客服有明确的业务目标和业务逻辑,大模型的通用能力不足以支撑B端应用,需要结合场景精调。

客服系统对回答的准确性有很高的要求,错误答案会误导客户,换句话说,大模型一本正经胡说八道的能力,在C端场景中会充满乐趣,在B端场景则会酿成大祸。

“它会说一些正确的但不属于这个企业的内容,比如把竞品信息推荐给你的客户。这本来是通用大模型的优势,但也会因为过于通用而产生哭笑不得的后果。这是我们必须解决的。”吴立楠介绍。

同时,大模型在语音客服中的应用还要受制于ASR(语音识别)、TTS(文字转语音)的成熟度。

当下的大模型应用都集中在文字客服领域,在语音客服场景下,除了话术内容生成,声音的拟人程度、语音识别率等因素都在影响大模型在语音客服中的效果。

在ASR(语音转文字)方面,实验室里的语音识别率已经达到99.5%或者99.8%,但现实场景中,大部分的载体都有音质上折损,导致ASR识别率参差不齐。

在TTS(文字转语音)方面,有商家测试发现,效果好的外呼都是人工录音,经测试,电子合成音和真人录音的转化率最多能差到10%,大模型就算对答如流,但没有真人录音或者高度拟人化的声音,效果仍不理想。

此外,客服行业在使用大模型的过程中,还受到国内大模型成熟度的制约。

国内目前*可以合规调用GPT的渠道只有Azure(微软云),但Azure对传输字段有限制。“如果没有办法解决数据传输的安全问题,那就只能等待国内大模型的成熟。”该商家解释。

值得注意的是,大模型擅长的多轮对话方式,目前主要应用于呼入场景,也就是消费者向企业客服咨询问题的场景。至于呼出环节,不管是短信提醒还是电话销售,尚且不在大模型的赋能范围内。从头部厂商的实践可以看到,大模型在客服行业的应用仍处于探索阶段,距离想象中的颠覆性变革尚有距离。

03 卷起来,到海外去

相比于产品团队的亢奋劲儿,商业化团队始终显得冷静。

任何客户无法明显感受到的差异化,都不算差异化。”这是一个头部客服企业商业化负责人的口头禅,“很多小的变化,在客户那里是不会买单的,至少无法构成一个 To B的的商业决策或付费决策。”

究其根源,甲方的付费心理始终在对标人力成本。当中国的人力成本还比较便宜时,甲方的心理账户必然不会太高。“智能客服+AIGC的产品,不管按照license定价,或者按照调用量定价,大概不会特别便宜,除非大厂亏钱做。”该负责人补充。

在商业化团队看来,大模型的热闹,除了吸引部分客户的好奇心,距离大规模落地还有距离。

“在国内,新技术很难带来生态位上的颠覆式创新。短期内有优势的人,不是那些用上大模型的企业,而是那些能拿到电商平台接口的企业。”不少从业者表示。

有了电商平台接口,相当于有了源源不断的现金流和海量语料素材——拿到淘宝详情页接口或京东商城接口的商家,避免了机器人冷启动时的窘境,可以有条不紊地迭代机器人服务能力,并保证商业化的畅通。可以说在立竿见影方面,接口的效果远超大模型。

这波大模型的真正利好出现在国外。”一知智能市场总监陈厚志分析,“中国的消费行业是真的卷,我们看到海外同行,都是把标价挂在官网上,自己下载使用,没有解决方案。中国公司出海还提供贴身服务,国外同行都惊呆了。”

2022 年,一知智能跟着中国品牌一起走向海外市场。在一年多时间里,把 AI 电话打向了日韩、东南亚、欧美、澳洲等海外市场的消费者,形成了老客户召回、物流签收提醒、催付挽单、活动通知等一系列服务。

Sobot 智齿科技则计划在未来3年内,海外市场的收入占比要超过30%。目前智齿科技已初和Meta、AWS等达成生态合作,在渠道上与Facebook、Instagram、Line、WhatsApp以及Telegram衔接,并集成了VKey、CyberArk、BeyondTrust等企业的能力。2022年出海业务营收占整体营收的比例已近10%。

天润融通则将出海*步选在了欧洲。2020年,天润融通的国际云联络中心落户法兰克福。

成立之初即面向海外市场的人工智能语音服务公司WIZ.AI,在4月初推出东南亚*集成了ChatGPT能力的对话机器人TalkGPT,TalkGPT利用ChatGPT和WIZ.AI的本地化知识,可以自动生成多语言多版本的外呼话术,也可以像人工客服一样与客户交流,同时在1小时内可以和超过100万客户进行电话互动。

“过去中国SaaS出海会遇到很多产品能力、营销推广上的卡点,需要慢慢摸索和补课,才能拥有Local公司的能力。但当下不管是OpenAI、Google还是微软云的能力,都是全球通用,相当于中国SaaS企业史无前例地有了‘产品加速器’和‘营销放大器’。我觉得过去在当地靠着‘非完全竞争’市场环境里活得很舒服的、大概3000万到5000万美元的SaaS公司,应该担心中国‘以卷服务和迭代速度’著称的SaaS公司入侵。”陈厚志解释。

吴立楠也认为,大模型有助于客服厂商出海——海外调用接口,响应速度是毫秒级,只要持续训练,给客户带来价值,中国厂商的运营效率和贴身服务具有明显优势,“这个时间点,在海外比的就是跑通的速度有多快,跑通之后抢占市场的速度有多快。

除了给海外格局带来影响,几乎所有从业者都认可AIGC对客户行业的长期价值是颠覆性的。“内燃机发明的时候,不是给马车加上一个引擎,而是要造出一辆汽车。当下,我们想到的都是给马车上加什么,但是往后看,可能整个客服行业都要变。”吴立楠分析。

但具体行业是怎么一步一步走过去,目前还没有人知道。“我们知道的是,你的产品如果脱离时代,如果太早来到,可能大家也不会接受。”吴立楠补充。

【本文由投资界合作伙伴微信公众号:亿邦动力网授权发布,本平台仅提供信息存储服务。】如有任何疑问,请联系(editor@zero2ipo.com.cn)投资界处理。