模型卡片

您可以在模型卡片中找到有关此模型的详细信息。

与 Meta Llama 3 一起使用的特别标记

<|begin_of_text|>: 这相当于 BOS(段落开始)标记

<|eot_id|>: 这表示一回合中消息的结束。

<|start_header_id|>{role}<|end_header_id|>: 这些标记包围了特定消息的角色。可能的角色包括:system(系统)、user(用户)、assistant(助手)。

<|end_of_text|>: 这相当于 EOS(段落结束)标记。在生成此标记时,Llama 3 将停止生成更多标记。

提示应该包含单个系统消息,可以包含多个交替的用户和助手消息,并且始终以最后一个用户消息后跟助手头部结束。

Meta Llama 3 基础

可以在这里找到生成此提示格式的代码 这里

注意:换行符(0x0A)是提示格式的一部分,在示例中为了清晰,它们被表示为实际的换行。

<|begin_of_text|>{{ user_message }}

Meta Llama 3 聊天

可以在这里找到生成此提示格式的代码 这里

注意事项

  • 换行符(0x0A)是提示格式的一部分,在示例中为了清晰,它们被表示为实际的换行。
  • 模型期望提示的末尾有助手头部以开始完成它。

单条消息示例

  1. <|begin_of_text|>1<|start_header_id|>user<|end_header_id|>2
  2. {{ user_message }}3<|eot_id|>4<|start_header_id|>assistant<|end_header_id|>5
  1. 指定提示的开始
  2. 指定以下消息的角色,即“user”(用户)
  3. 输入消息(来自“user”)
  4. 指定输入消息的结束
  5. 指定以下消息的角色,即“assistant”(助手)

在此提示之后,Llama 3 将通过添加 {{assistant_message}} 来完成它,并在生成 <|eot_id|> 时停止生成。

系统提示消息添加到单个用户消息中

  1. <|begin_of_text|><|start_header_id|>system<|end_header_id|>
  2. {{ system_prompt }}<|eot_id|><|start_header_id|>user<|end_header_id|>
  3. {{ user_message }}<|eot_id|><|start_header_id|>assistant<|end_header_id|>

系统提示和用户与助手之间的多轮对话

  1. <|begin_of_text|><|start_header_id|>system<|end_header_id|>
  2. {{ system_prompt }}<|eot_id|><|start_header_id|>user<|end_header_id|>
  3. {{ user_message_1 }}<|eot_id|><|start_header_id|>assistant<|end_header_id|>\n\n{{ model_answer_1 }}<|eot_id|><|start_header_id|>user<|end_header_id|>\n\n{{ user_message_2 }}<|eot_id|><|start_header_id|>assistant<|end_header_id|>

请注意,由于您提供的文本包含了一些用于网页布局的CSS媒体查询代码,这些代码在这里没有实际用途,因此我已将它们省略。如果您需要在特定的编程或技术环境中应用这些格式,请确保遵循相应的指南和最佳实践。