前置内容

麻省理工公开课】大数据与机器学习中的数学https://www.bilibili.com/video/BV1ot4y197D8?from=search&seid=8223709858683081557
https://www.bilibili.com/video/BV1gN411o7tL?from=search&seid=8223709858683081557统计学

引用书籍：
高等数学（上下册）（李忠）
数学分析（第1，2，3册）（伍胜建）
数学分析中的典型问题与方法（第二版）（裴礼文）
简明线性代数（丘维声）
最优化理论与方法（袁亚湘）（Stephen Boyed and Lieven Vandenberghe.Convex optimization。Cam university press，2009）
BBC数学的故事（纪录片）
数学大师 从芝诺到庞加莱（徐源译），天才引导的历程（苗锋译）：：数学历史读物

演示网站和软件：
Wolfram Alpha
Matlab
Python

集合以及集合的概念

• 集合：“一堆东西”放在一起，称为 集合 (set)，通常用大写字母表示，A
• 元素：“一堆东西”里面的一个称之为 元素 (element)，通常用小写字母表示，a
  • a属于A ； a不属于A 。
• 描述方式:列举和描述
  • 列举A= {1,2,3}
  • 描述B= {x : x是有理数} # 前边是变量名，后面是描述
• 子集：A的每一个元素都在B中，记为
  • 相等，记为A=B
  • 真子集且，记为
  • 空集
• 集合运算
  • 交：
  • 并：
  • 补：
• 任意
  • 
• 存在
  • 
• 基数：集合中元素的个数称为集合的基数（又称为势），记作。

• 常见的基数：自然数N，整数Z，有理数Q，实数R，复数C。

  实数集

• 区间

  • 开区间与闭区间，
  • 前开后闭与前闭后开
• 邻域
  • 
  • # 空心邻域
• 数轴
  • 实数集上的数和数轴上的点一一对应
  • 由直线，正方向，原点，单位长度组成
  • 无理数和有理数在数轴上都已稠密的状态存在，所以实数集在数轴上是连续的，那么怎么描述“连续性”
    • 完备性刻画
      • 在实数域中，任意一个单调有界序列必然有极限
      • 确界存在定理
        • 上界：集合，并且，如果存在，使得对于，有，则称有上界，并且说是的一个上界。
        • 下界：同理，换成
        • 上确界：设是一个非空数集，如果满足
          • 是的一个上界
          • 对，存在使得，则称为的上确界，记为
        • 下确界：
        • 确界存在定理即：非空有上界的实数集必然有上确界，非空有下界的实数集必然有下确界

• 等势：集合到集合存在双射，称与等势，记为。特别的，称与自然数集等势的集合为可列集

  • （证明过程以掠过）
  • 
  • 
  • 
  • （康托定理）

    常用不等式

• 三角不等式

  • 
• 伯努利 （Bernoulli）不等式
  • 对于任意的和任意的正整数n，有

• 算术-几何平均值不等式

  • 对于任意n个非负实数有
    • 所有元素相等时可以取到等号

      映射

• 映射：设A、B是两个非空集合，如果存在一个法则f，使得对A中的每个元素a，按法则f，在B中有唯一确定的元素b与之对应，则称f为从A到B的映射，记作：。其中，b称为元素a在映射f下的象，记作；a称为b关于映射f的原象。也称A为原象集，B为象集。

  • 单射（嵌入映射）
  • 双射（一一映射）
  • 满射（到上映射）

    函数

    对于给定的集合，如果存在一个对应法则f，使得对于X中的每一个数x，在R中存在唯一的数y与之对应，则称对应法则f为从X到R的一个函数，记作：
    
    
    其中y称为f在x的值，X称为函数f的定义域，数集称为函数f的值域，记作；x称为自变量，y称为因变量