3-1、VibeCoding之“AI向量知识库”(1d)
一、背景和问题
1、上海社区云小程序服务了全市市、区、街道镇、居村四个层次大概6万左右的政府用户;
2、市社工部为了给基层提供更加直接的指导和服务,建了4个微信群,每个群通过邀请的方式邀请了150+基层工作人员;
3、每个群投入2真人进行运维支持,提供7*8的服务,指导社区云的使用、解决一些问题、解释一些政策,任务很重。
二、解决方案
社区云已经运行多年,积累了很多Q&A资料,哪怕是新的功能也有使用说明。把这些资料整理成资料库,通过群机器人辅助运维,不失为一种好的解决方案。
三、技术思路
企微群(机器人) + 小龙虾(Agent) + 向量知识库 + LLM
四、AI编程实现向量知识库
1、让小龙虾做第一步
提示词如下:
帮我开发一个“AI向量知识库平台”,需求如下,请给出详细功能规划、原型设计、架构设计、数据库设计以及源码。
业务需求:
1、简单鉴权,固定用户名密码:admin/<your-password>
2、可以设置向量库全局参数;
3、上传文档列表
(1)上传pdf、word、txt文档
(2)查看上传文档详细:文件名、文件大小、上传时间;
(3)删除上传文档,并清理向量库;
4、连接大模型,实现对话,查询向量库内容;
技术需求:
1、向量库 Chroma + bge-embedding;
2、大模型使用MiniMax API;
3、前端使用VUE,后端使用python;
最终把所有设计文档和源码放到 gitee 上:
https://gitee.com/weedlu/vector-knowledge-base.git
用户名:
密码:
其实也可以用豆包,但豆包没办法推到gitee上。

2、让 IntelliJ IDEA + Lingma 做第二步
从 gitee 上获取最新源码,按照 README.md 配置好本地环境;
让 Lingma 分析一遍源码,并做第一遍修改和优化;
接下来就是不断的“黑盒”纠错,先看能否启动、再看功能是否正确,有问题直接问 Lingma 解决;
对的,有问题就问lingma,lingma修改源码,你点“接受”,就这样循环,最终得到完整的可运行的程序。


3、看最终效果




五、总结
1、节省了学习成本
学习效率高、学习质量好,360度无死角学习。整个平台涉及到如下技术:
后端:Python + SQLite
前端:Vue 3 + Element Plus + Vite
向量库:Chroma + bge-base-zh-v1.5
大模型:MiniMax AP
怎样?这些知识你要学多长时间?而且还是用Python实现的,可我们没有系统的学过Python。Python是最接近于LLM的语言,Skill一般都是用Python实现的。另外向量库开发也不熟,还有word、pdf解析以及AI对话的流式效果的技术细节。这些都不是事,你只要会向小龙虾、灵码提要求就行。
2、节省了开发时间
整个大概花了1天的时间,其实主要时间还是花在Python、IntelliJ IDEA环境调试上了。
原先后端打算使用Springboot,小龙虾自动生成源码才发现,调用向量库部分依然使用Python实现的(对,没错,Java调用Python ),毅然决然用Python实现后端。
六、再总结
AI时代最缺什么样的软件人才:销售人员、产品设计、技术架构和项目实施。