IBM宣布在watsonx上提供开源的Mistral AI模型

- IBM提供Mixtral-8x7B的优化版本，该版本可将延迟时间最多缩短75%

- IBM、第三方和开源模型的目录不断增加，为客户提供更多选择和灵活性

- 是watsonx人工智能与数据平台上最新的开源模型，watsonx提供企业就绪的人工智能开发平台、数据存储和治理功能

近日，IBM宣布，由Mistral AI公司开发的广受欢迎的开源Mixtral-8x7B大型语言模型（LLM）已经可在其watsonx人工智能与数据平台上使用。

IBM扩大模型选择范围，帮助企业以可信和灵活的方式扩展AI

IBM提供了Mixtral-8x7B的优化版本，在内部测试中，与常规模型相比，该版本能够将吞吐量（即在给定时间段内可处理的数据量）提高50%[i]。这可能可以将时间延迟减少35-75%，从而加快获得洞察的时间，具体取决于批处理量的大小。这是通过一个称为量化的过程来实现的，该过程减少了LLM的模型大小和内存需求，进而可以加快处理速度，有助于降低成本和能耗。

Mixtral-8x7B的加入扩展了IBM的开放、多模型战略，随时随地满足客户的需求，并为他们提供选择和灵活性，使其可以跨业务来扩展其企业级人工智能解决方案。通过数十年的人工智能研发、与Meta和Hugging Face开放式协作，以及与模型领导者的合作伙伴关系，IBM正在扩展其watsonx.ai模型目录，并引入新的功能、语言和模式。

IBM的企业就绪基础模型选择及其watsonx人工智能和数据平台可帮助客户利用生成式人工智能获得新的洞察力和效率，并基于信任原则创建新的业务模式。IBM可帮助客户根据所针对的业务领域（如金融）的合适用例及性价比目标来选择合适的模型。

Mixtral-8x7B结合了稀疏建模与专家混合技术来构建，“稀疏建模”是只查找和使用数据中最重要部分以创建更高效的模型的创新技术；而“专家混合技术”是把擅长并解决不同部分问题的不同模型（“专家”）结合在一起的技术。Mixtral-8x7B模型因其能够快速处理和分析海量数据以提供与上下文相关的见解而广为人知。

IBM软件公司产品管理与增长高级副总裁Kareem Yusuf博士表示："客户要求在部署最适合其独特用例和业务要求的模型时拥有选择权和灵活性。通过在watsonx上提供Mixtral-8x7B和其它模型，我们不仅为客户提供了部署人工智能的可选性，还为人工智能构建者和业务领导者提供了一个强大的生态系统，使他们能够利用工具和技术推动不同行业和领域的创新。"

在同一周，IBM还宣布在watsonx上提供由ELYZA公司开源的日本LLM模型ELYZA-japanese-Llama-2-7b。IBM还在watsonx上提供Meta的开源模型Llama-2-13B-chat和Llama-2-70B-chat以及其它第三方模型，未来几个月还将推出更多模型。