Good Views for CL.pdf
A MULTI-VIEW PERSPECTIVE.pdf
What Should Not Be Contrastive in Contrastive Learning.pdf
问题:到底要提取什么信息
核心观点:减少对比中的mutual information
1、什么叫view?
文中创造了样本,在风景图中自己加数字,得到3个view:
1、数字是几;
2、数字位置;
3、背景咋样。
2、怎么保证CL中关注某个view?
选择正样本pair的时候
3、基本结论
多个view一起相似的时候,对比学习主要会捕捉那个主要的;比如只要有背景,那其他多半会被忽略;
