结果:能跑,如果不怕卡的要死的节奏,最终跑出了结果,就是慢的要『死』

    本来想能用M1的GPU形式来进行,尝试了N次,最终无果(还是对代码不熟悉,具体哪里该如何修改调试,没有搞定)。

    最终还是用CPU跑的,自然慢的要死,本来我都要放弃了,最终还是跑出了结果(答案)

    还要继续深入研究,如何在能调动GPU的情况下,可以跑一些什么小模型来进行学习和测试。

    大家有同类的问题与研究,可以v联系laoshen13811,共同学习进步:)

    StableLM 开源在Mac M1上的运行尝试 - 图1

    CPU要跑满了

    StableLM 开源在Mac M1上的运行尝试 - 图2

    硬件配置:

    StableLM 开源在Mac M1上的运行尝试 - 图3