cogito

| 选择喜欢的代码风格  

cogito 参数量


tools 3b 8b 14b 32b 70b
 

cogito 模型介绍



cogito Models

Cogito v1 预览版 LLM 是指令调整的生成模型(文本输入 + 文本输出)。所有模型均采用开放许可发布,可供商业使用。

  • Cogito 模型是混合推理模型。每个模型可以直接回答(标准 LLM),也可以像推理模型一样先自我反思再回答。
  • 这些 LLM 采用迭代蒸馏与放大 (IDA) 进行训练,这是一种可扩展且高效的对齐策略,旨在通过迭代自我改进实现超级智能。
  • 这些模型已针对编码、STEM、指令遵循和通用帮助进行了优化,并且与同等规模的模型相比,其多语言、编码和工具调用能力显著提升。
  • 在标准和推理模式下,Cogito v1 预览版模型在常见的行业基准测试中均优于同等规模的模型。
  • 每个模型都使用 30 多种语言进行训练,并支持 128k 的上下文长度。

 

cogito 延伸思考


要启用扩展思考,请在系统提示中包含启用深度思考子程序 Enable deep thinking subroutine.

/set system """Enable deep thinking subroutine."""
 

ollama API 调用


curl http://localhost:11434/api/chat -d '{
  "model": "cogito",
  "messages": [
    {
      "role": "system",
      "content": "Enable deep thinking subroutine."
    },
    {
      "role": "user",
      "content": "How many letter Rs are in the word Strawberry?"
    }
  ]
}'
 

Ollama 调用 cogito AI 模型:


下面示例使用的模型是 cogito 模型。

ollama serve
ollama run cogito:3b # 3B
ollama run cogito:8b # 8B
ollama run cogito:14b # 14B
ollama run cogito:32b # 32B
ollama run cogito:70b # 70B
--------------------
curl -X POST http://localhost:11434/api/generate -d '{
  "model": "cogito",
  "prompt":"Why is the sky blue?"
 }'
 

cogito 基准测试:


cogito 3B performance


cogito 8B performance


cogito 3B tool calling


cogito 14B


cogito 32B


cogito 70B


 

AI 扩展阅读:




发表评论