中小企业本地知识库的选型顺序：先嵌入，再生成
传统行业做知识库时常把预算全花在大模型上，但真正决定体验的是嵌入模型与检索质量。EmbeddingGemma 2 这类 740M 级开源嵌入模型能在普通办公机上跑，且支持 MRL 截断，意味着可以先在无 GPU 环境把检索链路跑通（文档切分、向量化、召回评估），再决定要不要上本地 LLM 生成。顺序反过来往往钱花了但召回仍差。
研究价值把落地顺序从先买大模型改为先把检索跑准，降低试错成本。
技术简报AI前沿探索AI技术在传统行业中的落地应用
AI技术在传统行业中的落地应用 第 5 期
自动排版本期真正的增量只有一项：Google DeepMind 把 EmbeddingGemma 升级到 2，变成一个 740M 参数、文本/图像/视频/音频四模态统一向量的开源嵌入模型，并且能在手机和笔记本上跑。对传统行业和中小民营企业来说，意义不在模型本身，而在于它把本地知识库检索的门槛降到了一台普通机器：不用买 GPU、不用把资料传给第三方，就能做文档检索、分类、聚类这类最常用的落地场景。其余方向上，本期在 GitHub 与 Hacker News 没看到可核验的新项目，不凑数。
项目比较与观察
与本期其他热点相比，只有这一项是能直接落地的工具型资产：llama-modchip 解决的是能不能在不买显卡的机器上跑大模型，但需 64GB 内存且量化极端；embeddinggemma-2 只需普通笔记本就能跑，代价是它不生成文本，只做向量。两者是同一套低成本本地化方案里的不同零件，不是替代关系。
本期精选
EmbeddingGemma 2
把文本、图像、视频、音频四种输入映射到同一个 768 维向量空间，并允许按需只加载文本骨干，或额外挂视觉、音频编码器；再用 MRL 把向量截到 128/256/512 维以省存储。
主要应用领域本地知识库问答（RAG）、行业文档检索与分类、工单与单据聚类、图纸与扫描件搜图、多语种资料检索；部署在笔记本、边缘盒子或无 GPU 的办公机。
核心价值对传统行业最直接的价值是去 GPU 化：一个 740M 的嵌入模型在普通机器上就能做检索与分类，省下向量服务的钱和合规风险；MRL 截断可把向量存储降最多 6 倍，对预算有限的民企很实在；四模态统一空间意味着同一套检索可以同时吃单据图像与文本。
采用建议中小企业的本地知识库项目可以把它当作默认嵌入模型跑一次 A/B；若已有可用嵌入服务且效果满意，没有替换必要。
能力、接入与限制
能力与接入EmbeddingGemma 2（740M 总参数，其中 130M 文本骨干、140M embedder、170M 视觉、300M 音频），24 层、512 模型维度、输入输出 768 维、8K 上下文、GQA/MQA 注意力、均值池化加投影层；提供 Transformers 与 sentence-transformers 两种加载方式，按任务使用不同的 instruction 前缀。本次未实际加载运行。
关键限制只做嵌入，不做生成，仍需搭配 LLM 才能回答；模型页基准分数均为官方自评，未在中文行业术语上验证；多模态编码器会额外占内存，需手动选择加载；官方说明 128 维只适合纯文本任务，截得太深会有质量损失。
Apache-2.0
候选项目
暂无符合条件的项目，不为凑数重复推荐。
相关资料
值得进一步研究
1) 用一份自有文档集跑一次对比：embeddinggemma-2 768d 与 256d 截断版在本行业术语上的召回差异；2) 验证中文与行业术语（合同、发票、设备型号）在同向量空间下是否需要自定义任务前缀；3) 若要做图纸、单据图像检索，测它的视觉编码器在低分辨率扫描件上的表现；4) 先在一台无 GPU 的办公机上实测内存与延迟，再决定是否替换现有嵌入服务。