经过在100的范围内选取特定变异模型重新构造用于聚类的矩阵,有的模型效果改善十分明显,有的模型效果没有变化,有的模型效果甚至反而下降
    🌟尤其是fashion_lenet5,一开始我只从4000个模型中选取了符合条件的模型,效果有了改进,但当我把两次生成的模型合在一起共计8000个模型,从中选取1850个模型作为聚类的信息时,效果大幅下降。
    1850个模型的构成:
    预测结果与原模型预测结果相差在0-99的变异模型:随机选取200个,如果不够则全部选取
    预测结果与原模型预测结果相差在100-199的变异模型:随机选取200个,如果不够则全部选取
    预测结果与原模型预测结果相差在200-299的变异模型:随机选取200个,如果不够则全部选取
    预测结果与原模型预测结果相差在300-399的变异模型:随机选取200个,如果不够则全部选取
    预测结果与原模型预测结果相差在400-499的变异模型:随机选取200个,如果不够则全部选取
    预测结果与原模型预测结果相差在500-599的变异模型:随机选取100个,如果不够则全部选取
    预测结果与原模型预测结果相差在600-699的变异模型:随机选取100个,如果不够则全部选取
    预测结果与原模型预测结果相差在700-799的变异模型:随机选取100个,如果不够则全部选取
    预测结果与原模型预测结果相差在800-899的变异模型:随机选取100个,如果不够则全部选取
    预测结果与原模型预测结果相差在900-999的变异模型:随机选取100个,如果不够则全部选取
    预测结果与原模型预测结果相差在1000-1099的变异模型:随机选取50个,如果不够则全部选取
    预测结果与原模型预测结果相差在1100-1199的变异模型:随机选取50个,如果不够则全部选取
    预测结果与原模型预测结果相差在1200-1299的变异模型:随机选取50个,如果不够则全部选取
    预测结果与原模型预测结果相差在1300-1399的变异模型:随机选取50个,如果不够则全部选取
    预测结果与原模型预测结果相差在1400-1499的变异模型:随机选取50个,如果不够则全部选取
    预测结果与原模型预测结果相差在1500-1599的变异模型:随机选取20个,如果不够则全部选取
    预测结果与原模型预测结果相差在1600-1699的变异模型:随机选取20个,如果不够则全部选取
    预测结果与原模型预测结果相差在1700-1799的变异模型:随机选取20个,如果不够则全部选取
    预测结果与原模型预测结果相差在1800-1899的变异模型:随机选取20个,如果不够则全部选取
    预测结果与原模型预测结果相差在1900-1999的变异模型:随机选取20个,如果不够则全部选取

    参照cifar10_resnet20的选取情况,再次观察其他模型上的效果
    200、61、94、127、167、100、100、100、90、100、50、50、50、45、29、20、20、20、20、20
    fashion_lenet5的选取情况
    200、101、80、100、137、100、100、100、100、100、50、50、50、50、50、20、20、20、20、20
    mnist、lenet5的选取情况
    200、200、200、176、110、89、76、59、48、47、46、34、34、38、29、20、17、20、20、20


    0-99 100-199 200-299 300-399 400-499 500-599 600-699 700-799 800-899 900-999 1000-1099 1100-1199 1200-1299 1300-1399 1400-1499 1500-1599 1600-1699 1700-1799 1800-1899 1900-1999
    lenet1

    100 93 85 75 53 45 45 33 34 27 22 25 26 20 20 20 20 20

    200 133 200 127 162 100 65 52 79 83 50 50 50 50 38 20 20 20 20 20
    lenet4

    189 156 112 98 84 66 58 69 50 50 35 28 35 20 18 20 20 20

    200 199 189 156 112 98 83 66 58 69 50 50 35 28 35 20 18 20 20 20
    lenet5

    200 176 110 89 76 59 48 47 46 34 34 38 30 20 18 20 20 20

    200 200 200 176 110 89 76 59 48 47 46 34 34 38 29 20 17 20 20 20
    vgg16

    85 85 71 100 84 52 86 87 50 50 50 50 41 20 20 20 20 20

    200 165 85 85 71 100 82 52 85 87 50 50 50 50 41 20 20 20 20 20
    resnet20

    94 127 167 100 100 100 91 100 50 50 50 45 29 20 20 20 20 20

    200 61 94 127 167 100 100 100 90 100 50 50 50 45 29 20 20 20 20 20
    fashion

    80 109 137 100 100 100 100 100 50 50 50 50 50 20 20 20 20 20

    200 101 80 109 137 100 100 100 100 100 50 50 50 50 50 20 20 20 20 20
    svhn

    200 77 24 4 1 8 3 9 24 26 20 28 27 20 20 20 20 20

    17 136 200 77 24 4 1 8 3 9 22 26 20 28 27 20 20 20 20 20

    拿mnist_lenet5做对比实验,看是否在某个情况mnist_lenet5能够稳定地优于pace
    refine2:

    100 100 100 100 100 89 76 59 48 47 46 34 34 38 29 20 17 20 20 20

    refine3🌟:

    200 100 100 100 100 89 76 59 48 47 46 34 34 38 29 20 17 20 20 20

    refine4:

    200 50 50 50 50 50 50 50 48 47 46 34 34 38 29 20 17 20 20 20

    refine5:

    100 50 50 50 50 50 50 50 48 47 46 34 34 38 29 20 17 20 20 20

    refine6:
    200 100 剩下的小于200就行
    在剩余模型上尝试一下refine3,其中fashion和svhn在8000个模型的基础上进行选取

    exp5:七个模型都使用onehot_refine_200_2000向量,clusterSize范围为10-50,用轮廓系数选出最佳的,运行20次的结果
    exp14:七个模型都是用refine3的向量,clusterSize为5-61,单次运行的结果
    exp14_mnist_lenet5:七个模型都是用refine3的向量,clusterSize为10-50,用轮廓系数选出最佳的,运行20次的结果