引用自:
CNN 模型所需的计算力flops是什么?怎么计算?)
CNN 模型所需的计算力(flops)和参数(parameters)数量是怎么计算的? - 留德华叫兽的回答 - 知乎 )
CNN 模型所需的计算力(flops)和参数(parameters)数量是怎么计算的? - 泓宇的回答 - 知乎 https://www.zhihu.com/question/65305385/answer/451060549
TOPS(处理器运算能力单位)https://zhuanlan.zhihu.com/p/337618803

FLOPS & FLOPs

  • FLOPS: floating point operations per second. 每秒浮点操作次数,一般对应芯片
  • FLOPs: floating point operations. 浮点操作次数,一般对应网络

    FLOPs

    一般论文里常说GFLOPs , 1GFLOPs = 10^9 FLOPs
    一般涉及FLOPs的有:
    网络算力 - 图1
    其中,conv最多。

    注意,FLOPs也与输入图像的大小有关;但是参数量与输入图像的大小无关

常用框架复杂度
image.png

评价网络

  1. 先看精度,这是根本
  2. 再看前向运行计算量,即所需算力(FLPOs)
  3. 再看参数数量,即占用内存

    算力计算方法

  • 手动算。计算乘加次数
  • 脚本计算
  • image.png

    TOPS

    TOPS: Tera Operations Per Second 10^12,每秒进行一万亿次操作
    1GOPS代表处理器每秒钟可进行十亿次(10^9)操作,1MOPS代表处理器每秒钟可进行一百万次(10^6)操作
    TOPS/W 来作为评价处理器运算能力的一个性能指标,TOPS/W 用于度量在1W功耗的情况下,处理器能进行多少万亿次操作