新闻中心

朱军:成果转化是“意外”的惊喜

2023-04-03 | 韩扬眉 | 来源 《中国科学报》2023-04-03 |

朱军 受访者供图

今天的人工智能还不算完美,安全隐患、失灵易错……掣肘着人工智能的应用和发展。

10多年来,清华大学计算机系教授、人工智能研究院副院长朱军一直致力于解决人工智能安全性问题。在他看来,做科研、进行成果转化并不是直接目的,只是到了一定阶段,技术成果有用时水到渠成的结果。

日前,朱军获得第二十五届中国科协求是杰出青年成果转化奖。其获奖理由是,突破了经典的贝叶斯基础理论和关键技术,提出扩散模型的高效算法,通过成果转化孵化国家级专精特新“小巨人”企业,为安全可靠的人工智能发展奠定了坚实基础。

5年突破基础原理

博士期间,朱军做的研究课题便是机器学习与贝叶斯理论。贝叶斯方法是自然语言处理、机器学习、图像识别等人工智能领域的重要基础。

在人工智能应用中,“不确定性”是一大问题。例如无人驾驶,其环境和系统就存在很多未知的随机因素,基于概率的贝叶斯理论可以给出最优决策。

经典贝叶斯理论已存在260余年。它有两大关键要素:先验分布和似然函数。过去,大家公认非先验即似然的框架,即通常是假设一个先验分布或一个似然函数再进行运算。2011年图灵奖获得者Judea Pearl教授将概率统计引入人工智能,成为现代人工智能的重要理论基础。但是,在大数据环境下,贝叶斯学习开始面临多方面挑战。

“不是那么直接,例如诸多场景无法转换成先验分布或似然函数,这种情况下贝叶斯理论就失灵了。”朱军告诉《中国科学报》,他希望贝叶斯方法变得更灵活,在新的框架下能够更易于优化目标或领域知识。

有了初步的想法,朱军从一个个实际事例开始探索。为了开展更深入的研究,朱军前往美国卡内基·梅隆大学担任访问学者和博士后。

从博士到博士后的5年里,一个个微小事例逐渐在朱军脑海中组合成一幅广阔的理论图景。他试着做了一个整合和推广:把经典的贝叶斯推理看成最优化问题,在最优化框架下找出后验分布,针对目标做约束、根据需要进行模型预测。

“作为目标函数直接引导机器学习,这样训练出的后验分布预测准确度更高,在性能上会有更好的表现。”朱军说。

这便是他后来提出的正则化贝叶斯理论:基于贝叶斯定理的信息论描述,通过引入后验正则化,在变分优化的框架下可以灵活考虑领域知识(如基于逻辑表达式的知识)或学习任务优化的目标(如最大间隔损失)。

朱军提出的正则化贝叶斯理论,被认为是跳出了过去260余年历史的经典贝叶斯非先验即似然框架,为贝叶斯推理提供第三维自由度,并带来了应用价值的全新发展方向。在正则化贝叶斯框架下,朱军提出了贝叶斯模型的最大间隔学习理论及高效算法,将过去20多年来相互分离的两大方向进行了有机融合。

科研积累让转化“水到渠成”

2018年,朱军第一次尝试把基础科研推向应用市场。他的初衷是,我做科研近15年,积累了一些算法和模型,究竟有没有效,能否真正解决行业问题,我想和实际场景做一个结合

朱军将目光聚焦到人工智能安全场景。

例如,智能手机常用“刷脸”功能,但用一双“打印”的眼睛就能欺骗这些智能系统,解锁手机,给用户带来巨大风险。传统深度学习和神经网络的方法难以解决这一问题,朱军基于贝叶斯理论做出算法模型,可以发现具有欺骗性的“眼睛”,并进行防护。这一“人脸防火墙”已成功在银行应用。

科研界与产业界的对话“鸿沟”在朱军身上也发生了。

朱军告诉《中国科学报》,科研人员习惯的场景是问题定义比较明确、数据非常清晰,他们再来解决问题。而现实世界并非如此,许多问题都不具备这些解决条件,数据缺损严重、任务定义不甚清晰。

朱军记得,在与一家头部工业企业交流时,他和团队成员都觉得算法性能能够帮助厂商优化工艺参数、流程控制等,但在具体操作过程中很多算法实现的前提条件都不存在,这让他们走了许多弯路。“我们需要不断与企业交流,了解对方需求,后来的合作才能不断成熟起来。”

服务产业,还需要标准化。依托技术和理论,朱军建立了面向产业的通用平台——贝叶斯人工智能技术与平台,提供自动检测人工智能生成内容的技术能力和标准化服务能力。

近年来,人工智能算法方面取得了很多突破性进展,同时也发展出了性能良好的概率编程库,支持贝叶斯深度学习模型的开发和部署。朱军团队研制的“珠算”是最早的系统支持贝叶斯深度学习的开源库之一,推动了深度学习与贝叶斯两者之间的有机融合。

基于一系列的技术,朱军团队成功孵化了一家人工智能公司,推动贝叶斯深度学习、可解释学习、人工智能对抗攻防等领域的前沿技术研究及落地。

在朱军心里,科学研究和技术突破是第一位的,成果转化则让他收获了“意外”惊喜。“通过产学研合作及实际事例的反馈,让我们更容易找到真正有价值、重要的问题,或是对问题有了更深入的理解,促进科研发展。”

多方挑战期待更多人才加入

对朱军来说,从基础科研到成果转化,这条路并非一帆风顺。尝试5次、10次,最终才有1次成功是常态。

但面对挑战、迎接挑战,早已深深刻在朱军骨子里。在清华大学,朱军曾利用很多时间寻找和培养自己的兴趣。为学习英文思维方式,他在大一时选择了全英文物理课,确定了计算机方面的兴趣;大二开始进入实验室,了解如何开展一个课题;大三暑假选择了有挑战性的课题,用一个暑假的时间设计CPU(中央处理器)。

也大约在那个时候,朱军正式确立从事人工智能研究的目标。之后,他前往微软亚洲研究院实习,最先接触的是概率图模型。这种模型将概率论与图论完美地融合在一起,深深吸引了朱军。对于他来说,选择做什么,体现一个人的科研品位,尽管有困难,但也不能降低水准。

如今,还有更多挑战摆在朱军面前。

实现安全可靠的人工智能需要从技术上进行突破,数据安全、系统安全仍需要被关注。要想打造负责任的人工智能技术和应用,还需群策群力和产学研用的深度合作。

2019年,朱军作为发起人之一,联合清华大学和阿里巴巴发起了安全AI挑战者计划,主打高难度、高创新、高趣味、高回报的题目任务和运营,将参赛选手的思路方法沉淀在技术社区,旨在探索高校企业协同,为新基建建设培养一流的实战型网络安全人才。

“我们希望以竞赛的形式吸引更多年轻人关注人工智能安全,通过技术创新为人工智能保驾护航。”朱军很欣慰,该竞赛成效显著,全球26个国家和地区、900余家校企、上万名选手参与其中。

“越多人关注,一个新赛道、新行业的价值就越大。”朱军说。



相关新闻

  • 222019.04

    薛其坤:探讨科技成果产生、转化的新规律和新方式

    ——清华大学副校长薛其坤在第四届清华校友三创大赛大数据智能化高峰论坛(重庆)上的致辞(2019年4月19日)尊敬的屈谦副市长、尊敬的各位嘉宾、亲爱的校友们:上午好!非常高兴应清华校友总会三创大会组委会邀请,来...

  • 062012.12

    王曦院士:推进成果转化须改进体制机制

    党的十八大报告提出,要坚持走中国特色自主创新道路、实施创新驱动发展战略。 近日,在接受《中国科学报》记者采访时,党的十八大代表、中国科学院院士王曦表示,近些年从国家到地方,各部门对科技的投入都非常大,使得我国科技实力迈上了一个新的台阶。但总体上说,我国科技创新能力还不够强,一些核心技术仍受制于人,企业引进消化吸收再创新能力比较薄弱,产学研体系也没有完全建成。“科技工作者肩上的担子仍然很...

  • 292020.05

    从输出技术到输出模式,20余位清华校友在洛阳用实践探索出科技成果转化新方案

    在清洛基地已探索实践3年多的“平台+孵化器”模式基础上,搭建“技术服务、产品培育、功能支撑”三大平台,提供从共性技术研发到科技成果转化全链条一站式服务....

  • 012017.04

    清华大学文创院:文创成果转化带来新动力

    清华大学文创院院长柳斌杰表示:“清华大学文创院希望能够成为开放、合作、交流的平台,让产学研三界在这里找到共同点和合作的交叉点,起到立交桥的作用,让成果....

  • 022021.02

    清华1位教师1位校友获得2020年求是杰出青年成果转化奖

    2021年1月18日下午,中国科协在2020“科创中国”年度工作会议上,颁发了2020年度中国科协求是杰出青年成果转化奖,10名在科技成果转化领域做出突出贡献的青年才俊获此殊荣。清华大学电子工程系研究员陶晓明和2000级校友、深圳市柔宇科技有限公司董事长兼首席执行官刘自鸿榜上有名。

  • 232022.02

    清华2位教师1位校友获得第二十四届求是杰出青年成果转化奖

    2月21日,2022“科创中国”年度工作会议在北京中国科技会堂召开,会上揭晓了第二十四届中国科协求是杰出青年成果转化奖获奖者名单,全国共有10位科技工作者入选,清华2位教师1位校友获此殊荣。

  • 102018.04

    朱军:在火爆热潮中依旧冷静的贝叶斯研究者

    朱军长期从事贝叶斯人工智能研究取得多项成果,提出正则化贝叶斯理论,跳脱过去 250 多年历史的经典贝叶斯“非先验即似然”框架,并提出贝叶斯模型的最大间....

  • 312022.10

    殷盼超:将梦想转化为明确人生目标

    “科研无国界,但科学家有祖国。”在实验室里,华南理工大学广州国际校区前沿软物质学院教授殷盼超(2005级化工)拿起一张看上去像塑料的“圆片”,这是他所带领的科研团队正在研究的质子交换膜。据透露,其科研团队在研究利用散射方法表征软物质方面,已经达到与世界齐平的状态。“作为高校教师,我们承担了教育和科研的双重使命。”殷盼超表示,他对党的二十大报告中关于“实施科教兴国战略,强化现代化建设人才支撑”这句话...

  • 222022.09

    秦泗钊校友荣获2022年IEEE 控制系统学会技术转化奖

    近日,香港城市大学数据科学学院院长兼数据科学讲座教授、香港数据科学研究院院长秦泗钊教授荣获2022年IEEE 控制系统学会技术转化奖(IEEE CSS Transition to Practice Award),成为首位于中国内地受教育而获颁该奖项的学者。今年6月,秦泗钊教授刚刚荣获2022年美国化学工程学会计算与系统技术部(CAST)计算与化学工程奖。秦泗钊教授秦泗钊教授分别于1984年和1987年在清华大学自动控制系获得学士学位和硕士学位,1992年在美国...

  • 042023.07

    “智慧核能”创新联合体成立大会暨科技创新与产业转化发展论坛成功举办

    6月3日下午,天晴日朗,阳光明媚,由清华大学天津校友会、核工业理化工程研究院(有限公司)、天津市河东区人民政府共同主办的“转化、合作、共赢——智慧核能创新联合体成立大会暨科技创新与产业转化发展论坛”在河东区核工业理化工程研究院隆重举行。来自中国核能行业协会、清华校友总会、中核集团、天津国防科技工业协会、天津市河东区区委、天津市河东区政府、核理化院、清华大学天津校友会等单位的近100位领导、嘉宾、校友...