llama2

llama2 参数量

llama2 模型介绍

llama2 AI Models

Llama 2 由 Meta Platforms, Inc. 发布。该模型在 2 万亿个 token 上进行训练，默认支持 4096 的上下文长度。Llama 2 Chat 模型在超过 100 万个人工注释上进行了微调，专为聊天而设计。

Ollama 调用 llama2 AI 模型：

下面示例使用的模型是 llama2 模型。

ollama serve
ollama run llama2
--------------------
curl -X POST http://localhost:11434/api/generate -d '{
  "model": "llama2",
  "prompt":"Why is the sky blue?"
 }'

聊天功能针对聊天/对话用例进行了微调。这些是 Ollama 中的默认设置，也是标签选项卡中标记为 -chat 的模型的默认设置。

预训练没有聊天微调。这在标签选项卡中 Ollama 标记为 -text。

ollama run llama2:text

默认情况下，Ollama 使用 4 位量化。要尝试其他量化级别，请尝试其他标签。q 后面的数字表示用于量化的位数（即 q4 表示 4 位量化）。数字越高，模型越准确，但运行速度越慢，所需的内存越多。

AI 扩展阅读：

• poweroff 命令
• accept 命令
• unarj 命令
• ifdown 命令
• touch 命令
• lldb 命令
• sudo 命令
• awk 命令
• blktrace 命令
• vi 命令

发表评论