经过在100的范围内选取特定变异模型重新构造用于聚类的矩阵,有的模型效果改善十分明显,有的模型效果没有变化,有的模型效果甚至反而下降
🌟尤其是fashion_lenet5,一开始我只从4000个模型中选取了符合条件的模型,效果有了改进,但当我把两次生成的模型合在一起共计8000个模型,从中选取1850个模型作为聚类的信息时,效果大幅下降。
1850个模型的构成:
预测结果与原模型预测结果相差在0-99的变异模型:随机选取200个,如果不够则全部选取
预测结果与原模型预测结果相差在100-199的变异模型:随机选取200个,如果不够则全部选取
预测结果与原模型预测结果相差在200-299的变异模型:随机选取200个,如果不够则全部选取
预测结果与原模型预测结果相差在300-399的变异模型:随机选取200个,如果不够则全部选取
预测结果与原模型预测结果相差在400-499的变异模型:随机选取200个,如果不够则全部选取
预测结果与原模型预测结果相差在500-599的变异模型:随机选取100个,如果不够则全部选取
预测结果与原模型预测结果相差在600-699的变异模型:随机选取100个,如果不够则全部选取
预测结果与原模型预测结果相差在700-799的变异模型:随机选取100个,如果不够则全部选取
预测结果与原模型预测结果相差在800-899的变异模型:随机选取100个,如果不够则全部选取
预测结果与原模型预测结果相差在900-999的变异模型:随机选取100个,如果不够则全部选取
预测结果与原模型预测结果相差在1000-1099的变异模型:随机选取50个,如果不够则全部选取
预测结果与原模型预测结果相差在1100-1199的变异模型:随机选取50个,如果不够则全部选取
预测结果与原模型预测结果相差在1200-1299的变异模型:随机选取50个,如果不够则全部选取
预测结果与原模型预测结果相差在1300-1399的变异模型:随机选取50个,如果不够则全部选取
预测结果与原模型预测结果相差在1400-1499的变异模型:随机选取50个,如果不够则全部选取
预测结果与原模型预测结果相差在1500-1599的变异模型:随机选取20个,如果不够则全部选取
预测结果与原模型预测结果相差在1600-1699的变异模型:随机选取20个,如果不够则全部选取
预测结果与原模型预测结果相差在1700-1799的变异模型:随机选取20个,如果不够则全部选取
预测结果与原模型预测结果相差在1800-1899的变异模型:随机选取20个,如果不够则全部选取
预测结果与原模型预测结果相差在1900-1999的变异模型:随机选取20个,如果不够则全部选取
参照cifar10_resnet20的选取情况,再次观察其他模型上的效果
200、61、94、127、167、100、100、100、90、100、50、50、50、45、29、20、20、20、20、20
fashion_lenet5的选取情况
200、101、80、100、137、100、100、100、100、100、50、50、50、50、50、20、20、20、20、20
mnist、lenet5的选取情况
200、200、200、176、110、89、76、59、48、47、46、34、34、38、29、20、17、20、20、20
0-99 | 100-199 | 200-299 | 300-399 | 400-499 | 500-599 | 600-699 | 700-799 | 800-899 | 900-999 | 1000-1099 | 1100-1199 | 1200-1299 | 1300-1399 | 1400-1499 | 1500-1599 | 1600-1699 | 1700-1799 | 1800-1899 | 1900-1999 | |
---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|
lenet1 | 100 | 93 | 85 | 75 | 53 | 45 | 45 | 33 | 34 | 27 | 22 | 25 | 26 | 20 | 20 | 20 | 20 | 20 | ||
200 | 133 | 200 | 127 | 162 | 100 | 65 | 52 | 79 | 83 | 50 | 50 | 50 | 50 | 38 | 20 | 20 | 20 | 20 | 20 | |
lenet4 | 189 | 156 | 112 | 98 | 84 | 66 | 58 | 69 | 50 | 50 | 35 | 28 | 35 | 20 | 18 | 20 | 20 | 20 | ||
200 | 199 | 189 | 156 | 112 | 98 | 83 | 66 | 58 | 69 | 50 | 50 | 35 | 28 | 35 | 20 | 18 | 20 | 20 | 20 | |
lenet5 | 200 | 176 | 110 | 89 | 76 | 59 | 48 | 47 | 46 | 34 | 34 | 38 | 30 | 20 | 18 | 20 | 20 | 20 | ||
200 | 200 | 200 | 176 | 110 | 89 | 76 | 59 | 48 | 47 | 46 | 34 | 34 | 38 | 29 | 20 | 17 | 20 | 20 | 20 | |
vgg16 | 85 | 85 | 71 | 100 | 84 | 52 | 86 | 87 | 50 | 50 | 50 | 50 | 41 | 20 | 20 | 20 | 20 | 20 | ||
200 | 165 | 85 | 85 | 71 | 100 | 82 | 52 | 85 | 87 | 50 | 50 | 50 | 50 | 41 | 20 | 20 | 20 | 20 | 20 | |
resnet20 | 94 | 127 | 167 | 100 | 100 | 100 | 91 | 100 | 50 | 50 | 50 | 45 | 29 | 20 | 20 | 20 | 20 | 20 | ||
200 | 61 | 94 | 127 | 167 | 100 | 100 | 100 | 90 | 100 | 50 | 50 | 50 | 45 | 29 | 20 | 20 | 20 | 20 | 20 | |
fashion | 80 | 109 | 137 | 100 | 100 | 100 | 100 | 100 | 50 | 50 | 50 | 50 | 50 | 20 | 20 | 20 | 20 | 20 | ||
200 | 101 | 80 | 109 | 137 | 100 | 100 | 100 | 100 | 100 | 50 | 50 | 50 | 50 | 50 | 20 | 20 | 20 | 20 | 20 | |
svhn | 200 | 77 | 24 | 4 | 1 | 8 | 3 | 9 | 24 | 26 | 20 | 28 | 27 | 20 | 20 | 20 | 20 | 20 | ||
17 | 136 | 200 | 77 | 24 | 4 | 1 | 8 | 3 | 9 | 22 | 26 | 20 | 28 | 27 | 20 | 20 | 20 | 20 | 20 |
拿mnist_lenet5做对比实验,看是否在某个情况mnist_lenet5能够稳定地优于pace
refine2:
100 | 100 | 100 | 100 | 100 | 89 | 76 | 59 | 48 | 47 | 46 | 34 | 34 | 38 | 29 | 20 | 17 | 20 | 20 | 20 |
---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|
refine3🌟:
200 | 100 | 100 | 100 | 100 | 89 | 76 | 59 | 48 | 47 | 46 | 34 | 34 | 38 | 29 | 20 | 17 | 20 | 20 | 20 |
---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|
refine4:
200 | 50 | 50 | 50 | 50 | 50 | 50 | 50 | 48 | 47 | 46 | 34 | 34 | 38 | 29 | 20 | 17 | 20 | 20 | 20 |
---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|
refine5:
100 | 50 | 50 | 50 | 50 | 50 | 50 | 50 | 48 | 47 | 46 | 34 | 34 | 38 | 29 | 20 | 17 | 20 | 20 | 20 |
---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|
refine6:
200 100 剩下的小于200就行
在剩余模型上尝试一下refine3,其中fashion和svhn在8000个模型的基础上进行选取
exp5:七个模型都使用onehot_refine_200_2000向量,clusterSize范围为10-50,用轮廓系数选出最佳的,运行20次的结果
exp14:七个模型都是用refine3的向量,clusterSize为5-61,单次运行的结果
exp14_mnist_lenet5:七个模型都是用refine3的向量,clusterSize为10-50,用轮廓系数选出最佳的,运行20次的结果