新闻中心

唐杰主讲“清华校友学习日”第40讲:从千亿模型到chatGPT的一点思考

2023-01-05 | 来源 公号“清华校友总会订阅号”2023-01-04 |

20221231日下午,清华大学计算机系唐杰教授应邀出席清华校友终身学习支持计划·学习日40场活动,分享了以从千亿模型到chatGPT的一点思考为主题的前沿讲座。近千名校友、师生在线参与了全年最后一场学习日活动,在对人工智能的探索与憧憬中共同迎接新年的到来。

唐杰授课

近年来人工智能的快速发展受到社会各界的广泛关注,超大规模预训练模型取得了突飞猛进的进步。唐杰从OpenAI发布的大规模自然语言预训练模型GPT-3谈起,详细介绍了大模型的进化史,及其所表现出来的能够更好处理现实世界复杂性问题的能力与可能性,同时介绍了近日推出的AI聊天机器人chatGPTchatGPT具有强大的思维方式和推理能力,能够回答非常复杂的推理问题,展现出了惊人的语言能力。

唐杰授课

训练GPT-3面临着成本高昂、人力投入大、模型训练过程不稳定等重重挑战。对此,唐杰与其团队自研了GLM-130B模型。GLM-130B属于开源开放的中英双语模型,推理精度和效率都还不错,支持低成本、低资源使用,同时支持跨平台(英伟达、海光、华为芯片)训练与推理。团队在研发该模型过程中从零开始,攻克了从算法到工程上的无数难题,在大规模预训练模型的研发上取得了一定的进展。最后唐杰谈到,从千亿模型到chatGPT的道路非常艰辛,未来重点要解锁大模型的In-context能力、与环境和自我的交互能力、自我反思学习能力。

师生互动交流环节,校友们围绕数据获取、数据应用、大数据训练、智能机器人等提出问题,唐杰从专业角度给予回应和解答。

本场讲座为2022年的最后一场学习日活动,感谢讲座专家和校友们一年中的支持与陪伴,也期待校友们为学习日发展提出更多宝贵的意见和建议,我们也会继续努力为校友们提供更有价值的终身学习资源。过往皆序章,未来皆可盼。在此祝愿校友们新年快乐,平安顺遂。我们2023年春天再见!

清华校友终身学习支持计划

2013年,清华校友总会启动清华校友学堂项目,整合社会资源,支持校友开展形式多样的学习活动。2017年,校友总会在清华校友学堂项目等工作的基础上,推出清华校友终身学习支持计划,依托校内资源,举办清华校友学习日清华校友学习班,构建全周期多方位的校友终身学习服务体系。

“清华校友学习日”系列活动由清华校友总会、继续教育学院共同组织并协作实施,由清华终身学习和终身教育基金提供定向资金支持。20181125日开启学习日活动首次讲座,此后每个月的最后一个周六,根据校友们的学习需求开展专题讲座。学习日活动将持续整合优质资源,为校友提供职业发展与学业需求的支持和服务,构建互帮互助、终身学习的校友交流空间。截至202212月底,已有近2.1万人次校友参与学习日活动。

 

供稿|继续教育学院

相关新闻

  • 032022.11

    李乐飞主讲“清华校友学习日”第38讲:系统思维与系统工程

    10月29日下午,清华大学工业工程系长聘副教授、副系主任李乐飞应邀出席“清华校友终身学习支持计划·学习日”第38场活动,为校友带来“系统思维与系统工程”主题讲座。清华大学校友工作办公室副主任、清华校友总会副秘书长杨柳出席本次活动。近2000名校友、师生参与线上学习。

  • 022020.09

    “校友雨课堂 能源互联网”——康重庆主讲清华校友学习日第18讲

    8月29日下午,“清华校友终身学习支持计划”学习日活动第18讲在“荷塘雨课堂”开讲。清华大学电机系教授、系主任、能源互联网创新研究院院长,清华四川能源互联网研究院院长康重庆应邀为校友们带来“能源互联网”主题...

  • 032022.12

    马长生主讲“清华校友学习日”第39讲:心血管健康管理

    11月26日下午,首都医科大学附属北京安贞医院心脏内科中心主任马长生教授应邀出席“清华校友终身学习支持计划·学习日”第39场活动,为校友带来“心血管健康管理”主题讲座。清华大学校务委员会副主任、清华校友总会副会长史宗恺出席活动并致辞,出席本次活动的还有清华大学校友工作办公室副主任、清华校友总会副秘书长杨柳。3000余名校友、师生参与线上学习。史宗恺致辞史宗恺在致辞中分享了对终身学习支持计划的感受。校友终身...

  • 302022.09

    孙伟主讲“清华校友学习日”第37讲:生物3D打印技术进展及应用

    9月24日下午,清华大学机械工程系国家特聘教授、博士生导师,美国Drexel大学机械工程与力学系Albert Soffa讲席教授,清华大学“生物制造与体外生命系统工程”教育部111交叉创新引智基地主任、机械系生物制造工程中心主任,北京市生物制造及快速成形重点实验室主任孙伟应邀做客“清华校友学习日”第37讲活动,为校友们带来“生物3D打印技术进展及应用”主题报告。清华大学继续教育学院党委书记兼副院长刁庆军出席本次活动,清华...

  • 292019.01

    钱易院士主讲“清华校友学习日”第3讲,解读生态文明建设与可持续发展

    岁末辞旧迎新,正是游子归家时,一月的最后一个周六,“清华校友终身学习支持计划”学习日活动第3讲如约在环境学院报告厅举办。

  • 012022.07

    沈阳主讲“清华校友学习日”第35讲:元宇宙的发展与挑战

    6月25日下午,清华大学新闻与传播学院教授、博士生导师,清华大学新闻与传播学院新媒体研究中心执行主任,清华大学新闻与传播学院元宇宙文化实验室主任沈阳应邀为校友们带来“清华校友终身学习支持计划”学习日第35讲“元宇宙的发展与挑战”主题报告。清华大学校友工作办公室主任、清华校友总会秘书长唐杰出席本次活动。近2000名校友、师生参与线上学习。沈阳主讲沈阳从元宇宙的缘起、发展脉络、构建步骤以及应用场景等维度带领...

  • 072022.05

    谢维和主讲“清华校友学习日”第33讲:清华的风格

    芳菲四月,春风澹荡,在母校111岁生日之际,“清华校友终身学习支持计划”学习日活动特别邀请清华大学校务委员会副主任、文科资深教授,中国教育学会副会长,教育部教育学本科专业教学指导委员会主任谢维和教授主讲学习日第33讲,主题为“清华的风格”。清华大学继续教育学院党委书记兼副院长刁庆军,清华大学校友工作办公室副主任、清华校友总会副秘书长杨柳等参加现场学习。1500 余名校友、师生相聚在“荷塘雨课堂”“雨课堂...

  • 022022.06

    李政主讲“清华校友学习日”第34讲:气候变化与碳中和

    5月28日下午,“清华校友终身学习支持计划”学习日第34讲在线上举行。清华大学气候变化与可持续发展研究院常务副院长、清华大学低碳能源实验室主任、清华-BP清洁能源研究与教育中心主任李政应邀为校友们带来 “气候变化与碳中和”主题讲座。近1300名校友、师生参与线上学习。

  • 022019.07

    刘建国教授主讲清华校友学习日第7讲:垃圾分类的重要意义和推行路径

    近日,习近平总书记对垃圾分类工作作出重要指示。

  • 262019.02

    彭凯平教授主讲清华校友学习日第4讲,科学探索积极心态构建

    2月23日下午,“清华校友终身学习支持计划”学习日活动第4讲在清华大学新水利馆407开讲。