mistral-small3.1

| 选择喜欢的代码风格  

mistral-small3.1 参数量


tools vision 24b
 

mistral-small3.1 模型介绍



Mistral-small3.1 Models

Mistral Small 3.1 采用 Apache 2.0 许可证发布。

Mistral Small 3.1 新模型基于 Mistral Small 3 构建,提升了文本性能、多模态理解能力,并将上下文窗口扩展至高达 128K 个 token。该模型的性能优于 Gemma 3 和 GPT-4o Mini 等同类模型,推理速度高达每秒 150 个 token。

注意:此模型需要 Ollama 0.6.5 或更高版本。

 

Mistral-small3.1 主要特性和功能:


  • 轻量级:Mistral Small 3.1 可在单块 RTX 4090 显卡或配备 32GB RAM 的 Mac 上运行。这使其非常适合设备端用例。
  • 快速响应对话辅助:非常适合虚拟助手和其他需要快速准确响应的应用。
  • 低延迟函数调用:能够在自动化或代理工作流程中快速执行函数。
  • 针对特定领域的微调:Mistral Small 3.1 可以进行微调,以专注于特定领域,从而打造精准的主题专家。这在法律咨询、医疗诊断和技术支持等领域尤为有用。
  • 高级推理的基础:社区在开放的 Mistral 模型之上构建模型的方式持续给我们留下深刻印象。仅在过去几周,我们就看到了基于 Mistral Small 3 构建的多个优秀推理模型,例如 Nous Research 的 DeepHermes 24B。为此,我们发布了 Mistral Small 3.1 的基础和指导检查点,以便进一步实现模型的下游定制。

 

mistral-small3.1 模型使用场景


Mistral Small 3.1 是一款多功能模型,旨在处理各种生成式 AI 任务,包括指令遵循、对话辅助、图像理解和函数调用。它为企业级和消费级 AI 应用提供了坚实的基础。

 

ollama CLI 调用 mistral-small3.1


ollama run mistral-small3.1
 

AI 扩展阅读:




发表评论