单纯逻辑回归只能应对二分类问题。当多分类时,如果每个样本只属于一个类,可以使用Softmax回归。即如果有K类,那么就需要K个线性函数来进行判别。

    Softmax Regression - 图1
    使用softmax激活函数:
    Softmax Regression - 图2

    使用交叉熵损失函数,此处的k代表K类,而非样本下标:
    Softmax Regression - 图3
    优化目标为Softmax Regression - 图4Softmax Regression - 图5
    Softmax Regression - 图6

    Softmax Regression - 图7

    Softmax Regression - 图8

    Softmax Regression - 图9

    Softmax Regression - 图10不等于Softmax Regression - 图11
    Softmax Regression - 图12

    Softmax Regression - 图13等于Softmax Regression - 图14
    Softmax Regression - 图15

    结合两者:
    Softmax Regression - 图16