通用能力的训练数据和垂域领域训练数据的混合比例
https://www.zhihu.com/question/639096509/answer/3575942521?utm_psn=1811520848244383744
Domain和General互斥(领域和通用)
预训练loss的高低可以衡量模型的性能
:::tips 1TB=1024GB,B是字节,TB是太字节
B是Billion十亿,M是Million百万
:::
CMR混合比例
通用能力的训练数据和垂域领域训练数据的混合比例
https://www.zhihu.com/question/639096509/answer/3575942521?utm_psn=1811520848244383744
Domain和General互斥(领域和通用)
预训练loss的高低可以衡量模型的性能
:::tips 1TB=1024GB,B是字节,TB是太字节
B是Billion十亿,M是Million百万
:::
CMR混合比例
让时间为你证明