董正心-AI 大模型重塑垂域任务：淘宝闪购搜推商品理解的全新建模.pdf

1、AI 大模型重塑垂域任务：淘宝闪购搜推商品理解的全新建模董正心阿里巴巴淘宝闪购 算法工程师目录0102030405淘宝闪购搜推内容理解背景搜推内容理解任务介绍大模型标注&质检飞轮06垂域统一训练范式垂域多模态大模型数据&训练小结淘宝闪购搜推内容理解背景商品内容理解为什么要做为什么要做？提升搜索体验提升搜索体验准确理解商品类目和属性，让用户用自然语言快速找到目标商品，降低搜索失败率 精准个性化推荐精准个性化推荐深度解析商品特征，构建商品匹配模型，提升点击率和转化率 优化商品展示优化商品展示生成高质量标题和卖点，帮助商家提升商品曝光度和购买吸引力 平台治理与风控平台治理与风控识别属性错误、类目错放

2、等问题，维护平台商品质量和用户权益系统整体架构图搜推系统架构搜推系统架构&商品理解商品理解/QueryQuery理解理解用户用户QueryQuery输入输入QueryQuery理解模块理解模块（垂域大模型）召回层召回层排序层排序层商品展示商品展示商品理解模块商品理解模块（垂域大模型）商品信息库商品信息库（图文/属性/类目）Query理解（红色）：位于系统入口，负责理解用户搜索意图商品理解（蓝色）：位于商品侧，负责理解商品属性、类目、卖点两者作用在召回和排序阶段，决定最终展示结果两者作用在召回和排序阶段，决定最终展示结果 核心定位核心定位我们的垂域大模型处于搜推系统的我们的垂域大模型处于搜推系统

3、的 大脑大脑 位置，是连接用户意图与商品信息的桥梁位置，是连接用户意图与商品信息的桥梁商品理解&意图理解：应用场景搜索结果页搜索结果页筛选项筛选项零售商品主页零售商品主页商品图文详情商品图文详情搜推内容理解任务介绍商品理解：类目预测任务介绍类目预测是平台管理海量商品的最基础的手段。根据商品信息，在类目体系范围内，判断商品所属的最合适的分类节点（如“手机”、“女装/连衣裙”）。示例：输入商品信息“苹果iPhone15Pro256GB手机”输出预测类目“叶子类目=手机”LLM-QALLM-QA任务任务零少样本泛化能力强复杂语义理解能力多模态理解能力 类目错 筛选器失效 搜索不相关 推荐不准 转化率

4、低 类目对 筛选有效 搜索精准 推荐个性化 转化率高User:结合图片和文本信息，这张图片里是一个商品，请问它属于哪一类商品？商品可以区分为以下类别：一级类目.一级类目一级类目：xxxxUser:结合图片和文本信息，已知该商品一级类目为xxxx，请进一步判断该商品属于以下哪个类别：二级类目.二级类目二级类目：xxxx三级类目三级类目：xxxx预测类目路径预测类目路径xxxx xxxx xxxx xxxx四级类目四级类目：xxxx商品理解：CPV预测+卖点生成任务介绍属性预测是连接“用户意图”与“商品供给”的最细粒度桥梁。识别并结构化商品的关键特征，包括属性项(Property)及其对应的属性值

5、(Value)。示例：输入商品信息“白色纯棉圆领T恤 M码”输出cpv预测结果：“颜色=白色;材质=纯棉;款式=圆领;码数=M码”卖点：“纯棉透气，简约大方”LLM+RAGLLM+RAG解决实体边界破碎问题复杂语义理解泛化新属性检索外部知识库多模态理解商品信息多样性丰富端到端生成，链路高效几点局限!知识遗忘知识遗忘灾难性遗忘现象：垂域训练导致通用知识和能力显著下降，基础推理能力受损数据依赖数据依赖高度依赖高质量垂域标注数据，数据稀缺或噪声大时效果急剧下降泛化局限泛化局限跨域迁移能力弱，面对分布外数据时鲁棒性差，难以适应动态变化多任务孤岛多任务孤岛各任务独立微调导致重复训练、资源浪费，任务间知识

6、无法共享协同垂域统一训练范式研究背景研究背景核心挑战2.外卖平台的智能化需求 核心需求：理解用户购买意图、分析商品相关信息 在提高用户便利性的同时，对智能性提出了更高要求 NLP 技术在此过程中发挥关键作用挑战一：数据稀缺问题 外卖领域与电商领域存在显著差异 现有 NLP 数据集无法满足外卖平台在商品信息和用户意图方面的特定需求 迫切需要构建专门针对外卖领域的中文 NLP 数据集1.通用 LLM 的局限性 尽管通用大模型在通用任务中表现优异 但在外卖领域的研究相对稀缺，存在领域适配问题挑战二：训练方法效率问题 外卖领域任务多样性高、数据特异性强 现有训练方法导致：高计算资源消耗、复杂的训练过程