AI热榜 作为一个有趣的个人项目，我一直在开发一个聊天机器人，用于回答有关我的家庭的一般问题，从维护问题到医生预约。
总的想法是，聊天机器人将通过 RAG 通过查询矢量数据库来获取其家庭知识，但为了获得更好的结果，我已经使矢量搜索元数据感知。
基本上，我通过预处理步骤运行问题，将问题分类为已知的元数据类别（例如游泳池、汽车、暖通空调、烹饪）。
这样做的主要目标是将矢量排名的搜索空间缩小到仅与问题类别匹配的索引条目。
举个例子，“我们什么时候更换泳池水泵？
”这个问题在查询索引数据库之前将被映射到名为“pool”的类别。
我想在这个实验中测试的假设是，在家庭相关问题的数据集上进行训练时，是否可以对非常小的本地法学硕士进行微调以执行可靠的问题分类 法学硕士 在这个项目中，我使用两个不同的本地 llms – Qwen 3:4B 和 Qwen 3:0.6B。
4B参数版本用于一般问答，而超微型0.6B版本用于分类问题。
这个实验的整个前提是看看一个只有 600M 参数的微小 llm 是否可以被微调成一个可靠的家庭问题分类器。
微调 为了进行微调，我使用了一个名为 Unsloth 的流行开源框架，它似乎非常适合调整 Qwen 和 Llama 等本地模型。
出于训练目的，我的初始数据集由大约 850 个数据条目组成，其中我分别按照 70/15/15 百分比分为训练数据、评估数据和测试数据。
训练数据和评估数据在训练期间使用，而测试数据集被保留并用于在训练后运行测试。
有关示例数据，请参阅下面的部分： [
🔗 原始来源
如果你要核对细节，可以再看原文： Hacker News AI原文链接