几周前在 CES 上，我们介绍了铠侠 AiSAQ。该软件旨在用 SSD 替换 RAG AI 堆栈中的内存，以更低的成本实现更大的模型。另一个目标是最大限度地减少使用较低每 TB 设备成本对性能的影响。现在，该软件已经开源了：github传送门。 铠侠 AiSAQ SSD 支持的 RAG 用于更大规模的 AI 模型开源 对于刚接触 RAG 或检索增强生成的人来说，这个想法很简单，LLM 可以访问数据源以提供训练集中不存在的上下文。例如，如果你有一个模型，以及一组不断刷新的业务数据。这往往会占用大量的内存和存储。 铠侠…