🎯 相关资料

HuggingFace：https://huggingface.co/baichuan-inc/Baichuan2-7B-Chat
GithHub：https://github.com/baichuan-inc/Baichuan2
Ollama：https://ollama.com/maxkb/baichuan2:13b-chat

https://huggingface.co/TheBloke/CodeLlama-7B-Instruct-GGUF/resolve/main/codellama-7b-instruct.Q4_K_S.gguf

百川开发者中心：https://platform.baichuan-ai.com

🎯 私有化部署价格

:::color1 license定义: license即许可，用于授权客户可以在本地环境部署百川大模型。10个推理license即允许客户在10个推理实例上部署百川大模型。推理实例即提供模型推理服务的配置。例如:Baichuan2-33B:32k，当窗口长度需求为32K时，需要的最低配置为4卡4090(24G)。-台8卡4090(24G)的机器若按照最低配置，可以部署2个实例。客户也可以选择高于最低配置，只部署1个实例(8卡作为1个实例)。

:::

公司名称	产品形态	模型	单价
百川	本地私有化	Baichuan2-13B-192k	200 万元
		Baichuan2- 33B-192k	750 万元
		Baichuan2-53B	900 万元

硬件配置参考

模型	CPU 要求	输入+输出 tokens	GPU显存要求
Baichuan2-53B	**24c	256G**	4k	96G
Baichuan2- 33B-32k	**24c	100G**	32k	96G
Baichuan2- 33B-192k	**24c	100G**	10k	48G
		32k	96G
		64k	140G
		100k	192G
		192k	320G**
Baichuan2-13B	**24c	64G**	32k	48G
Baichuan2-13B-192k	**24c	64G**	15k	24G
		32k	48G
		64k	70G
		100k	96G
		192k	192G