Mistral AI 推出用于边缘计算的 Ministral 3B 和 8B 模型

据 Mistral AI 称，Mistral AI 宣布推出两款新模型：Ministral 3B 和 Ministral 8B，专为设备上计算和边缘用例而设计。这些模型是在 Mistral 7B 发布一周年之际推出的，这标志着前沿人工智能创新的一个重要里程碑。

高级功能和用例

Ministral 模型经过精心设计，在知识、常识推理、函数调用和 sub-10B 类别中的效率等领域表现出色。它们提供高达 128k 的广泛上下文长度，Ministral 8B 具有独特的交错滑动窗口注意力模式，可提高速度和内存效率。这些功能使模型适用于广泛的应用，包括设备上翻译、无互联网智能助理、本地分析和自主机器人。

通过与 Mistral Large 等大型语言模型合作，Ministral 模型可充当复杂工作流程中的高效中介，能够解析输入、路由任务以及以最小的延迟和成本调用 API。这使它们成为寻求隐私优先、低延迟推理解决方案的独立开发人员和大型制造团队的理想解决方案。

性能和基准

Mistral AI 将 Ministral 3B 和 8B 的性能与其他模型（包括 Gemma 2 2B、Llama 3.2 3B 和 Mistral 7B）进行了基准测试。结果表明，Ministral 模型在各种任务中始终优于同类模型。这些评估强调了模型有效处理多样化和复杂场景的能力。

供货情况和定价

两种模型现已上市，Ministral 8B 的定价为每百万代币 0.1 美元，Ministral 3B 的定价为每百万代币 0.04 美元。这些模型是根据 Mistral 的商业和研究许可证提供的，可以选择通过商业许可证自行部署，并支持无损量化，以优化特定用例的性能。此外，Ministral 8B Instruct 的模型权重可用于研究目的。

前景

Mistral AI 继续在前沿人工智能模型方面进行创新，致力于突破边缘计算的可能性界限。自 Mistral 7B 发布以来，该公司取得了重大进步，新的 Ministral 3B 型号的卓越性能就证明了这一点。 Mistral AI 期待在用户探索 Ministral 模型的功能时收到反馈。

图片来源：Shutterstock