Llama 3

Llama 3

现在可以使用 Ollama 运行 Llama 3 了

首先，下载 Ollama并运行 Llama 3：

ollama run llama3

最强大的模型

Llama 3 相较于 Llama 2 和其他公开发布的型号有了很大的改进：

• 在比 Llama 2 大七倍的数据集上进行训练
• 将 Llama 2 的上下文长度增加一倍，达到 8K
• 使用具有 128K 个标记的更大标记词汇表更有效地对语言进行编码
• 与 Llama 2 相比，虚假“拒绝”的比例不到1/3

两种尺寸：8B 和 70B 参数

Llama 3 的初始版本包含两种尺寸：

• 8B 参数 ollama run llama3:8b
• 70B 参数 ollama run llama3:70b

将 Llama 3 与流行工具结合使用

LangChain

from langchain_community.llms import Ollama
llm = Ollama(model="llama3")
llm.invoke("Why is the sky blue?")

LlamaIndex

from llama_index.llms.ollama import Ollama
llm = Ollama(model="llama3")
llm.complete("Why is the sky blue?")

下一步计划是什么

Meta 计划发布 400B 参数的 Llama 3 模型等。未来几个月，他们将发布多个具有新功能的模型，包括多模态、以多种语言进行交谈的能力、更长的上下文窗口和更强大的整体功能。