端侧 AI 崛起：Mistral 发布 Ministral 3B / 8B，“全球最好的边缘模型”

Mistral 公司最新推出两款 AI 模型，分别为 Ministral 3B 和 Ministral 8B。这些 AI 模型不需要连接云服务器，主要改进了笔记本电脑和智能手机等设备的本地化 AI 体验。Mistral 公司表示，越来越多的企业希望在个人设备上运行 AI 模型，以确保安全的数据处理和提高响应速度。

这两个 AI 模型能够执行翻译服务、本地分析和机器人等多项服务，在没有互联网接入的情况下仍然可以正常工作。Ministral 8B 的上下文窗口为 128K，相当于一次可以处理 50 页文档。价格方面，Ministral 8B 每百万个 tokens 售价 0.1 美元，而 Ministral 3B 版本则为 0.04 美元。

值得一提的是，Ministral 8B 采用了特殊的交错滑动窗口注意力机制，在推理时更快且节省内存。