月份：2024年7月

Llama 3.1 的新功能和集成

• Llama 3.1 三种规格: 8B、70B 和 405B，适用于不同规模的应用。
• 引入六个新开源的大型语言模型（LLM）。
• 支持128K token的上下文长度和8种语言。
• 在定制GPU集群上训练，总训练量达到15万亿token，总计39.3M GPU小时。
• 允许使用模型输出来改进其他LLM，包括合成数据生成和蒸馏。

Llama 3.1 的发布及其规格介绍

• 发布并进入 Hugging Face 平台，与 Meta 合作实现优化集成。
• 三种规格：8B、70B 和 405B，分别适用于不同规模的应用和场景。
• 引入了多项新功能，包括指令模型的微调和工具调用支持。

Llama 3.1 的特性、性能及使用分析

• 包括六个开源LLM模型分为三种规格：8B、70B 和 405B。
• 两个新模型：Llama Guard 3 和 Prompt Guard，用于保护模型和检测提示注入和越狱。

Llama 3.1 的许可证变动

• 许可证允许使用模型输出来改进其他LLM，包括合成数据生成和蒸馏。
• 用户可以使用Llama 3.1 模型生成的数据集来微调更小、更专业的模型。

Llama 3.1 的硬件需求

• 三种规格在训练和推理中的内存需求各不相同。
• 运行Llama 3.1 需要考虑硬件资源，特别是内存。