cursor–v0.dev

coze 智能客服助手,可以上传业务信息,商品信息表,常见问题,使用手册,品牌文档介绍。可以实现调用知识库,根据用户提示词和与之匹配的知识库进行回答,并将回复记录存入到飞书表格

微调:先尝试提示工程(提示词),提示链接(将复杂的任务分解成多个提示词)和函数调用,迭代提示词比迭代微调更方便,并且仍需要微调时也不会浪费提示工程

插入数据的格式,也可以添加验证集

image-20250306233909999

image-20250306000125876

本地部署OLLAMA docker openwebui 设置统一的提示词(永远回复中文,考虑如何优化提示词)

共享本地大模型 设置模型限制 设置系统提示词 设定模型的风格等 Ngrok内网穿透

服务器部署?外接知识库?

知识库rag:总结知识做不到,只是挑出和问题语义相关的单个片段大模型,大模型并没有看整个文档

ANythingLLM 把知识库和大模型做成api embedding 嵌入模型,将句子转为低维向量https://mp.weixin.qq.com/s/zOpnR8QR-aROjxlo8eRM0w

graphrag:解决理解整个文档