前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
圈层
工具
发布
首页
学习
活动
专区
圈层
工具
MCP广场
社区首页 >专栏 >张钹、朱军团队获得 ICLR 2022 杰出论文奖!

张钹、朱军团队获得 ICLR 2022 杰出论文奖!

作者头像
AI科技评论
发布于 2022-04-22 10:41:39
发布于 2022-04-22 10:41:39
6700
举报
文章被收录于专栏:AI科技评论AI科技评论

7篇论文获得杰出论文奖,清华、人大、浙大等国内高校上榜,张钹院士、朱军教授等人合作的论文入选!

作者|Ailleurs

编辑|陈彩娴

今日,ICLR2022在官网上公布了杰出论文奖评选结果,共有7篇论文获奖,国内上榜高校包括清华大学、中国人民大学、浙江大学、重庆大学,国外上榜高校和机构有谷歌研究院、安特卫普大学、斯坦福大学、康奈尔大学、多伦多大学、DeepMind等。

今年ICLR共有3391篇投稿,接收1095篇,接收率为32.3%,其中包括54篇论文被接收为Oral,176篇论文被接收为Spolight,7篇论文因其卓越的条理性、洞察力、创造力和潜在的持久影响力荣获杰出论文奖。其中,华人一作论文共有3篇,张钹院士、朱军教授等人合作的论文获得杰出论文奖。另有3篇论文获得杰出论文荣誉提名。

1 华人一作获奖论文

张钹院士、朱军教授等人合作的获奖论文为《Analytic-DPM: an Analytic Estimate of the Optimal Reverse Variance in Diffusion Probabilistic Models》。

论文地址:https://openreview.net/pdf?id=0xiJLKH-ufZ

这项工作的获奖理由:

扩散概率模型(Defusion probabilistic model,DPM)是一类功能强大的生成模型,是机器学习领域中一个快速发展的研究课题。本文旨在解决 DPM 模型固有的局限性,即DPM 模型中最优反向方差的计算速度缓慢且成本昂贵。作者首先展示了一个令人惊讶的结果,即 DPM 的最优反向方差和相应的最优 KL 散度都有其得分函数的解析形式。然后,他们提出了新颖且优雅的无训练推理框架:Analytic-DPM,使用蒙特卡罗方法和预训练的基于得分模型来估计方差和 KL 散度的分析形式。

这篇论文在理论贡献(表明 DPM 的最优反向方差和 KL 散度都具有解析形式)和实际益处(提出适用于各种 DPM 模型的免训练推理)方面都具有重要意义,并且很可能影响未来的 DPM 研究。

图注:张钹

张钹,清华大学计算机系教授,中国科学院院士,CCF 会士,2014 CCF 终身成就奖获得者,中国人工智能领域奠基人之一。曾任校学位委员会副主任,现任微软亚洲研究院技术顾问。

张钹院士从事人工智能、人工神经网络、机器学习等理论研究,以及这些理论应用于模式识别、知识工程与机器人等技术研究。在这些领域,他已发表 200多篇学术论文和5篇(或章节)专著(中英文版)。他的专著获得国家教委高等学校出版社颁发的优秀学术专著特等奖。他的科研成果分别获得 ICL欧洲人工智能奖、国家自然科学三等奖、国家科技进步三等奖、国家教委科技进步一、二等奖、电子工业部科技进步一等奖以及国防科工委科技进步一等奖奖励。此外,他参与创建智能技术与系统国家重点实验室,于1990‐1996年担任该实验室主任。1987‐1994年任国家"863"高技术计划智能机器人主题专家组专家。

在过去30多年中,他提出问题求解的商空间理论,在商空间数学模型的基础上,提出了多粒度空间之间相互转换、综合与推理的方法。提出问题分层求解的计算复杂性分析以及降低复杂性的方法。该理论与相应的新算法已经应用于不同领域,如统计启发式搜索、路径规划的拓扑降维法、基于关系矩阵的时间规划以及多粒度信息融合等,这些新算法均能显著降低计算复杂性。该理论现已成为粒计算的的主要分支之一。在人工神经网络上,他提出基于规划和基于点集覆盖的学习算法。这些自顶向下的结构学习方法比传统的自底向上的搜索方法在许多方面具有显著优越性。

张钹院士在清华执教六十余年,已经是桃李满天下,在其研究领域也成为了绝对的权威。虽已年过花甲,却仍精神矍铄,如今的他还在坚持以第一作者的身份写作论文,令人敬佩。

图注:朱军

朱军,清华大学计算机系教授,清华大学人工智能研究院基础理论研究中心主任,北京智源人工智能研究院机器学习首席科学家 。获腾讯科学探索奖,入选MIT TR35中国先锋者 、亚洲第二位IEEE AI 10 to Watch学者、国家"万人计划"领军人才,中国首位PAMI副主编,担任IEEE TPAMI的副主编和编委。担任ICML2014地区联合主席, ICML、NIPS、IJCAI、AAAI等领域主席20余次。

朱军教授的研究工作围绕机器学习基础理论、高效算法和应用展开,注重理论与实际问题结合。已连续多年在机器学习顶级国际会议和期刊ICML、NIPS、IJCAI、AAAI、 JMLR、PAMI等发表论文100余篇。研究工作得到国家973计划、自然科学基金优青基金和重点基金等项目的支持,入选“清华大学221基础研究人才支持计划”。

另一项华人一作获奖论文来自斯坦福大学 :《Comparing Distributions by Measuring Differences that Affect Decision Making》。

论文地址:https://openreview.net/forum?id=KB5onONJIAU

这项工作的获奖理由:本文提出了一类新的差异,可以比较基于最优损失的决策任务的两种概率分布。作者证明,与各种基准上的竞争性基准相比,所提出的方法具有更好的测试能力。委员会认为 ,该方法不仅思维巧妙,具有特殊的经验意义,它允许用户通过决策损失来比较分布时直接指定他们的偏好,这意味着可解释性水平将得到提高。

论文作者Shengjia Zhao是斯坦福大学计算机科学系的博士生,研究方向为预测模型和自治代理、概率深度学习、不确定性量化等。他与北大2016级图灵班本科生许逸伦等人的合作论文曾被ICLR2020“满分”接收。

图注:Shengjia Zhao

其导师为Stefano Ermon,他曾获IJCAI2018“计算机与思想奖”,在概率推理、机器学习和决策方面的研究具有重要影响。他的另一位天才学生宋飏的一作论文曾获ICLR2021杰出论文奖,宋飏14岁保送清华大学,本科就读于数学物理专业,曾跟随朱军等人做研究,后在2016年赴斯坦福大学读博。

第三篇华人一作获奖论文《Neural Collapse Under MSE Loss: Proximity to and Dynamics on the Central Path》,作者Xiaoyan Han是康奈尔大学的博士生。

论文地址:https://arxiv.org/abs/2106.02073

这项工作的获奖理由

本文对当下深度网络训练范式中场景的“神经崩溃”现象提出了新的理论见解。本文演示了一种新的均方误差(MSE)损失分解方法,以分析神经崩溃下损失的每个组成部分,而不是数学上更难分析的交叉熵损失。通过研究沿中心路径的重整梯度流,作者推导出预测神经崩溃的精确动力学方法。本文为理解深度网络的经验训练提供了新颖而富有启发性的理论见解。

图注:Xiaoyan Han

2 华人一作荣誉提名论文

本次获得杰出论文荣誉提名的论文之一《PiCO: Contrastive Label Disambiguation for Partial Label Learning》,一作是来自浙江大学计算机科学与技术学院的博士生Haobo Wang

论文地址:https://arxiv.org/abs/2201.08984

这项工作的获奖理由

本文研究了部分标签学习(PLL),旨在通过在一个连贯的框架中解决PLL表示学习和标签消歧的两个关键挑战,减少PLL和有监督的对等物之间的性能差距。作者提出了一个结合了对比学习和基于原型的标签消歧的新框架PiCO。本文给出了有趣的理论解释,以证明其框架从期望最大化(EM)的观点。实证结果尤其令人印象深刻,因为PiCO在PLL中显著优于目前最先进的技术,甚至达到了与完全监督学习相当的结果。

附:获得杰出论文奖和荣誉提名的论文完整名单查看地址

https://blog.iclr.cc/2022/04/20/announcing-the-iclr-2022-outstanding-paper-award-recipients/

本文参与 腾讯云自媒体同步曝光计划,分享自微信公众号。
原始发表:2022-04-22,如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 AI科技评论 微信公众号,前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体同步曝光计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
暂无评论
推荐阅读
编辑精选文章
换一批
基于MATLAB的多项式数据拟合方法研究-毕业论文
摘要:本论文先介绍了多项式数据拟合的相关背景,以及对整个课题做了一个完整的认识。接下来对拟合模型,多项式数学原理进行了详细的讲解,通过对文献的阅读以及自己的知识积累对原理有了一个系统的认识。介绍多项式曲线拟合的基本理论,对多项式数据拟合原理进行了全方面的理论阐述,同时也阐述了曲线拟合的基本原理及多项式曲线拟合模型的建立。具体记录了多项式曲线拟合的具体步骤,在建立理论的基础上具体实现多项式曲线的MATLAB实现方法的研究,采用MATLAB R2016a的平台对测量的数据进行多项式数据拟合,介绍了MATLAB的
用户1173509
2018/07/04
3K0
MATLAB曲线拟合
多项式拟合函数:polyfit。该函数的结果将保证在数据点上拟合值与数据值差的平方和最小,即最小二乘曲线拟合。 调用格式: polyfit(X,Y,n) 执行该函数将产生一个n阶多项式P,并且使得P(X)=Y。
里克贝斯
2021/05/21
1.3K0
MATLAB曲线拟合
利用MATLAB进行曲线拟合
软件环境:MATLAB2013a 一、多项式拟合 多项式拟合是利用多项式最佳地拟合观测数据,使得在观测数据点处的误差平方和最小。 在MATLAB中,利用函数ployfit和ployval进行多项式拟合。 函数ployfit根据观测数据及用户指定的多项式阶数得到光滑曲线的多项式表示,polyfit的一般调用格式为:P = polyfit(x,y,n)。其中x为自变量,y为因变量,n为多项式阶数。 polyval的输入可以是标量或矩阵,调用格式为 pv = polyval(p,a) pv = polyval(p
Zoctopus
2018/06/04
3.3K0
MATLAB-多项式
在 MATLAB 中,多项式用一个行向量表示,行向量的元素值为多项式系数按幂次的降序排列。
用户9925864
2022/07/27
6790
MATLAB-多项式
如何用matlab画函数图_matlab常用画图函数
scatter(X,Y) 简单来用给出X Y的值通过函数便能在该坐标上画出一个圆圈,例如
全栈程序员站长
2022/09/28
11.7K0
如何用matlab画函数图_matlab常用画图函数
matlab中的曲线拟合与插值
曲线拟合与插值 在大量的应用领域中,人们经常面临用一个解析函数描述数据(通常是测量值)的任务。对这个问题有两种方法。在插值法里,数据假定是正确的,要求以某种方法描述数据点之间所发生的情况。这种方法在下一节讨论。这里讨论的方法是曲线拟合或回归。人们设法找出某条光滑曲线,它最佳地拟合数据,但不必要经过任何数据点。图11.1说明了这两种方法。标有'o'的是数据点;连接数据点的实线描绘了线性内插,虚线是数据的最佳拟合。 11.1 曲线拟合 曲线拟合涉及回答两个基本问题:最佳拟合意味着什么?应该用什么样的曲线?可用许多不同的方法定义最佳拟合,并存在无穷数目的曲线。所以,从这里开始,我们走向何方?正如它证实的那样,当最佳拟合被解释为在数据点的最小误差平方和,且所用的曲线限定为多项式时,那么曲线拟合是相当简捷的。数学上,称为多项式的最小二乘曲线拟合。如果这种描述使你混淆,再研究图11.1。虚线和标志的数据点之间的垂直距离是在该点的误差。对各数据点距离求平方,并把平方距离全加起来,就是误差平方和。这条虚线是使误差平方和尽可能小的曲线,即是最佳拟合。最小二乘这个术语仅仅是使误差平方和最小的省略说法。
ccf19881030
2019/04/23
3.3K0
MATLAB基操复习
3. 导数使用diff(f,v,n)对 f(v)=v^{t-1} 求 n 阶导 \frac{d^nf}{d^nv} ,n缺省时,默认为1,diff(f)默认求一阶导数。
Cloud-Cloudys
2020/07/07
1.7K0
利用matlab实现非线性拟合(上)
一般而言,通过已有的数据点去推导其它数据点,常见的方法有插值和拟合。插值适用性较广,尤其是线性插值或样条插值已被广泛的应用。但是通过已知的函数去拟合数据,是连接理论与实验重要的桥梁,这一点是插值无法替代的。
巴山学长
2021/04/22
2.6K0
利用matlab实现非线性拟合(上)
python实现logistic增长模型、多项式模型
比如一个人可以传染三个人,三个人传染九个人,九个人传染27个人,不停的倍增。这就是J型增长,也叫指数型的增长。
悟乙己
2022/11/30
2.3K0
python实现logistic增长模型、多项式模型
matlab插值拟合(二)
上一篇给大家介绍了如何使用matlab拟合工具箱进行函数的插值拟合,今天介绍matlab中常用的拟合函数:polyfit和fittype。
巴山学长
2019/07/15
1.5K0
matlab插值拟合(二)
matlab如何做正交多项式曲线拟合,matlab正交多项式拟合
在实验模态分析中用 Matlab 实现离散化正交多项式算法 [C], 马永列; 陈章 位; 胡海清 4.在实验模态分析中用 Matlab 实现离散化正交多项式算法 [C], 马永列……
全栈程序员站长
2022/11/16
1.5K0
6.数据分析(1) --描述性统计量和线性回归(2)
前言:在针对非物理信号分析的时候,例如用户数、用户经常出入的地点、疾病感染人数等,这部分涉及到数据分析知识,本文分享一下Matlab常用的描述性统计量函数和线性回归的基本应用。
用户9925864
2022/07/27
7150
6.数据分析(1) --描述性统计量和线性回归(2)
数学建模常用模型02:插值与拟合
拟合:已知有限个数据点,求近似函数,可不过已知数据点,只要求在某种意义下它在这些点上的总偏差最小。
小磊建模
2023/02/11
1.4K0
数学建模常用模型02:插值与拟合
讲解pytho作线性拟合、多项式拟合、对数拟合
拟合(Fitting)是数据分析中常用的一种方法,它可以根据已有的数据,找到最适合这些数据的函数模型。Python提供了丰富的库和工具,可用于进行线性拟合、多项式拟合和对数拟合。本文将讲解如何使用Python实现这些拟合方法。
大盘鸡拌面
2023/12/18
2.3K0
如何使用Python曲线拟合
在Python中进行曲线拟合通常涉及使用科学计算库(如NumPy、SciPy)和绘图库(如Matplotlib)。下面是一个简单的例子,演示如何使用多项式进行曲线拟合,在做项目前首先,确保你已经安装了所需的库。
华科云商小徐
2024/04/12
6020
matlab绘图(六)-图像光滑&数据取点
当然之前中过冷水多次有跟大家提多项式拟合、傅里叶级数拟合、高斯级数拟合,实际更加常见的操作是用matlab中图像拟合工具箱cftool灵活进行函数拟合。
巴山学长
2023/03/15
1K0
matlab绘图(六)-图像光滑&数据取点
Python3.0科学计算学习之绘图(一
(1)  plot是标准的绘图库,调用函数plot(x,y)就可以创建一个带有绘图的图形窗口(其中y是x的函数)。输入的参数为具有相同长度的数组(或列表);或者plot(y)是plot(range(len(y)),y)的简写。
py3study
2020/01/16
1.5K0
Python3.0科学计算学习之绘图(一
Matlab-实时编辑器介绍
在实时编辑器中,可以创建随代码一起显示代码输出的实时脚本。添加格式化文本、方程、图像和超链接用于增强记叙脚本,以及将实时脚本作为交互式文档与其他人共享。
用户9925864
2022/07/27
1.2K0
Matlab-实时编辑器介绍
Matlab中插值函数汇总和使用说明
MATLAB中的插值函数为interp1,其调用格式为:  yi= interp1(x,y,xi,'method')           
AIHGF
2019/02/18
5.6K0
Matlab中插值函数汇总和使用说明
统计回归拟合方程参数
一直以来过冷水都有给大家分享图像拟合的知识、从泰勒级数说傅里叶级数、Matlab多项式拟合初探,本期过冷水给大家讲讲统计回归做拟合。
巴山学长
2020/09/29
4700
统计回归拟合方程参数
相关推荐
基于MATLAB的多项式数据拟合方法研究-毕业论文
更多 >
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档