几周前在 CES 上，我们介绍了铠侠 AiSAQ。该软件旨在用 SSD 替换 RAG AI 堆栈中的内存，以更低的成本实现更大的模型。另一个目标是最大限度地减少使用较低每 TB 设备成本对性能的影响。现在，该软件已经开源了：github传送门。 铠侠 AiSAQ SSD 支持的 RAG 用于更大规模的 AI 模型开源 对于刚接触 RAG 或检索增强生成的人来说，这个想法很简单，LLM 可以访问数据源以提供训练集中不存在的上下文。例如，如果你有一个模型，以及一组不断刷新的业务数据。这往往会占用大量的内存和存储。 铠侠…

作为 CES 的一部分，铠侠本周正在做一些不同的事情。它没有谈论消费类 SSD，而是专注于铠侠 AiSAQ 产品，该产品希望用 SSD 取代 AI 堆栈中的内存，以更低的成本实现更大的模型。 对于刚接触 RAG 或检索增强生成的人来说，这个想法很简单，LLM 可以访问数据以帮助它减少幻觉，并提供重要的上下文。例如，LLM 不仅可以根据可能几个月前的训练数据集输出信息，还可以访问当前信息并将其引入之前训练的 LLM。所有这些都需要大量的内存和存储。 Kioxia 的想法是，将向量数据和索引存储在存储中，而不是存储在巨…