Bias Variance

high variance: train data问题，dev set error比train set error 高太多

high bias：dev data问题，train/dev set error 都太高

先看有没有bias问题，解决完bias问题后，再解决variance问题

遇到high bias咋办？ 建更深/更多hidden units/有更高级optimization/不同结构/ 的网络，或者训练久点
遇到high variance咋办？加更多数据，regularization，换网络结构

bias问题与variance问题的解决方案是不同的，所以要把数据分割成train/dev部分来分别测试