模型卡片
您可以在模型卡片中找到有关此模型的详细信息。
与 Meta Llama 3 一起使用的特别标记
<|begin_of_text|>: 这相当于 BOS(段落开始)标记
<|eot_id|>: 这表示一回合中消息的结束。
<|start_header_id|>{role}<|end_header_id|>: 这些标记包围了特定消息的角色。可能的角色包括:system(系统)、user(用户)、assistant(助手)。
<|end_of_text|>: 这相当于 EOS(段落结束)标记。在生成此标记时,Llama 3 将停止生成更多标记。
提示应该包含单个系统消息,可以包含多个交替的用户和助手消息,并且始终以最后一个用户消息后跟助手头部结束。
Meta Llama 3 基础
可以在这里找到生成此提示格式的代码 这里。
注意:换行符(0x0A)是提示格式的一部分,在示例中为了清晰,它们被表示为实际的换行。
<|begin_of_text|>{{ user_message }}
Meta Llama 3 聊天
可以在这里找到生成此提示格式的代码 这里。
注意事项:
- 换行符(0x0A)是提示格式的一部分,在示例中为了清晰,它们被表示为实际的换行。
- 模型期望提示的末尾有助手头部以开始完成它。
单条消息示例
<|begin_of_text|>1<|start_header_id|>user<|end_header_id|>2
{{ user_message }}3<|eot_id|>4<|start_header_id|>assistant<|end_header_id|>5
- 指定提示的开始
- 指定以下消息的角色,即“user”(用户)
- 输入消息(来自“user”)
- 指定输入消息的结束
- 指定以下消息的角色,即“assistant”(助手)
在此提示之后,Llama 3 将通过添加 {{assistant_message}} 来完成它,并在生成 <|eot_id|> 时停止生成。
系统提示消息添加到单个用户消息中
<|begin_of_text|><|start_header_id|>system<|end_header_id|>
{{ system_prompt }}<|eot_id|><|start_header_id|>user<|end_header_id|>
{{ user_message }}<|eot_id|><|start_header_id|>assistant<|end_header_id|>
系统提示和用户与助手之间的多轮对话
<|begin_of_text|><|start_header_id|>system<|end_header_id|>
{{ system_prompt }}<|eot_id|><|start_header_id|>user<|end_header_id|>
{{ user_message_1 }}<|eot_id|><|start_header_id|>assistant<|end_header_id|>\n\n{{ model_answer_1 }}<|eot_id|><|start_header_id|>user<|end_header_id|>\n\n{{ user_message_2 }}<|eot_id|><|start_header_id|>assistant<|end_header_id|>
请注意,由于您提供的文本包含了一些用于网页布局的CSS媒体查询代码,这些代码在这里没有实际用途,因此我已将它们省略。如果您需要在特定的编程或技术环境中应用这些格式,请确保遵循相应的指南和最佳实践。