LLM
Contents
cursor–v0.dev
coze 智能客服助手,可以上传业务信息,商品信息表,常见问题,使用手册,品牌文档介绍。可以实现调用知识库,根据用户提示词和与之匹配的知识库进行回答,并将回复记录存入到飞书表格
微调:先尝试提示工程(提示词),提示链接(将复杂的任务分解成多个提示词)和函数调用,迭代提示词比迭代微调更方便,并且仍需要微调时也不会浪费提示工程
插入数据的格式,也可以添加验证集
本地部署OLLAMA docker openwebui 设置统一的提示词(永远回复中文,考虑如何优化提示词)
共享本地大模型 设置模型限制 设置系统提示词 设定模型的风格等 Ngrok内网穿透
服务器部署?外接知识库?
知识库rag:总结知识做不到,只是挑出和问题语义相关的单个片段大模型,大模型并没有看整个文档
ANythingLLM 把知识库和大模型做成api embedding 嵌入模型,将句子转为低维向量https://mp.weixin.qq.com/s/zOpnR8QR-aROjxlo8eRM0w
graphrag:解决理解整个文档
Author kong
LastMod 2025-03-07