Kitex Thrift Streaming在prompt平台的实践.pdf

2024-03-31

文档编号：158328

文档页数：17

文档大小：4.36MB

下载积分：VIP专享

文档格式：PDF

Kitex Thrift Streaming在 Prompt 平台的实践杜少丰2024/03/30自我介绍01.背景和问题02.实践与踩坑03.未来的期待CONTENT目录01背景和问题PromptPrompt平台结构化成引导式成开发调试调试运扩、缩写COT、Few-shots优化动调优数据集打分评测分析键部署SDK应用Service问题基本框架前端Prompt RPCLLM程化服务APIGateWayKitex02实践与踩坑实践踩坑一：错误处理踩坑一：错误处理踩坑一：错误处理建连包中间包。尾包踩坑二：服务治理-超时&限流超时限流03未来的期待未来的期待便捷AITHANKS

Kitex Thrift Streaming在prompt平台的实践.pdf_第1页

Kitex Thrift Streaming在prompt平台的实践.pdf_第2页

Kitex Thrift Streaming在prompt平台的实践.pdf_第3页

Kitex Thrift Streaming在prompt平台的实践.pdf_第4页

Kitex Thrift Streaming在prompt平台的实践.pdf_第5页

点击查看更多