京小智融入大模型助力电商零售提升咨询转化

12月21日消息，京东域内商家提供触达、服务、洞察的一体化智能服务平台——京小智，秉承京东云大小模型协同理念，不断推进在零售电商场景落地，旨在为品牌商家降本增效，提升咨询转化。今年11.11，京小智服务商家数量增长至超36万，其中中小商家同比增加102%，较今年618期间增加62%。

营销场景中，京小智正在探索为商家经营决策提供“专属顾问”，使产品操作摆脱传统“拖拉拽”，只需一句话指令，就能让大模型智能生成数据分析报告，为店铺生意经营提供专业指导。

图源：京小智官网

销售场景中，京小智实现分钟级文案自动生成，极大提升应答效率和准确率，助力商家提高咨询转化的效率。比如当用户进行商品比较时，商家过去要花费大量时间拆解用户意图，再生成解决方案手动配置在后台。借助京小智，商家仅需上传商品使用方法的文档，便可以“文档应答”自动拆解问答，支持文字、图表等多种形式。过去这一过程需数日，如今仅需几分钟，商品对比采纳率高达87%。

当用户进行商品属性问答时，京小智结合言犀大模型能力自动生成文案，以更加拟人化的方式来解答，应答准确率提升5%；求购推荐场景时，京小智根据用户和人工客服的沟通内容，基于用户表达的商品需求，自动推荐并展示推荐理由，推荐准确率提升27%。

客服场景中，京小智通过打通京东站内活动、物流、服务单、发票、订单修改等各业务场景，综合输出“意图识别”技术能力，实现价保申请等功能的一键调用。比如，当消费者表露出寻求“便宜”“降价”的意图，京小智可自动识别并推送功能，为客户退差价，无需客户跳转和等待，减少客服操作时间。更在夜间店铺无人值守时，为商家提供用户咨询应答，提升夜间转化。

图源：京东云公众号

因覆盖电商零售复杂的全流程环节，京小智以“小步快跑”推进大小模型高效协同：逐个场景引入大模型，实现底层通用能力和复杂推理；全流程关键节点接入小模型，实现场景的快速定位和识别。

比如在用户咨询，京小智往往需要通过多轮对话，才能让消费者将问题表述清楚。这一过程中，小模型负责“意图识别”，对用户意图做出快速和精准的判断，由此进入推荐导购、属性应答、商品对比等不同场景的应答模块；再把这一识别结果和此前多轮对话学习，交给大模型，输出具体应答。

同时，在保证能力效果的前提下，大模型本身也在加速。据介绍，言犀团队通过实现算法层和体系结构层等能力，以量化、稀疏化、减脂蒸馏、参数共享、内存优化、算子融合、动态批处理、流式解码等方式，优化大模型推理系统，从而使大模型适当变小、变快。