新闻中心

唐杰主讲“清华校友学习日”第40讲:从千亿模型到chatGPT的一点思考

2023-01-05 | 来源 公号“清华校友总会订阅号”2023-01-04 |

20221231日下午,清华大学计算机系唐杰教授应邀出席清华校友终身学习支持计划·学习日40场活动,分享了以从千亿模型到chatGPT的一点思考为主题的前沿讲座。近千名校友、师生在线参与了全年最后一场学习日活动,在对人工智能的探索与憧憬中共同迎接新年的到来。

唐杰授课

近年来人工智能的快速发展受到社会各界的广泛关注,超大规模预训练模型取得了突飞猛进的进步。唐杰从OpenAI发布的大规模自然语言预训练模型GPT-3谈起,详细介绍了大模型的进化史,及其所表现出来的能够更好处理现实世界复杂性问题的能力与可能性,同时介绍了近日推出的AI聊天机器人chatGPTchatGPT具有强大的思维方式和推理能力,能够回答非常复杂的推理问题,展现出了惊人的语言能力。

唐杰授课

训练GPT-3面临着成本高昂、人力投入大、模型训练过程不稳定等重重挑战。对此,唐杰与其团队自研了GLM-130B模型。GLM-130B属于开源开放的中英双语模型,推理精度和效率都还不错,支持低成本、低资源使用,同时支持跨平台(英伟达、海光、华为芯片)训练与推理。团队在研发该模型过程中从零开始,攻克了从算法到工程上的无数难题,在大规模预训练模型的研发上取得了一定的进展。最后唐杰谈到,从千亿模型到chatGPT的道路非常艰辛,未来重点要解锁大模型的In-context能力、与环境和自我的交互能力、自我反思学习能力。

师生互动交流环节,校友们围绕数据获取、数据应用、大数据训练、智能机器人等提出问题,唐杰从专业角度给予回应和解答。

本场讲座为2022年的最后一场学习日活动,感谢讲座专家和校友们一年中的支持与陪伴,也期待校友们为学习日发展提出更多宝贵的意见和建议,我们也会继续努力为校友们提供更有价值的终身学习资源。过往皆序章,未来皆可盼。在此祝愿校友们新年快乐,平安顺遂。我们2023年春天再见!

清华校友终身学习支持计划

2013年,清华校友总会启动清华校友学堂项目,整合社会资源,支持校友开展形式多样的学习活动。2017年,校友总会在清华校友学堂项目等工作的基础上,推出清华校友终身学习支持计划,依托校内资源,举办清华校友学习日清华校友学习班,构建全周期多方位的校友终身学习服务体系。

“清华校友学习日”系列活动由清华校友总会、继续教育学院共同组织并协作实施,由清华终身学习和终身教育基金提供定向资金支持。20181125日开启学习日活动首次讲座,此后每个月的最后一个周六,根据校友们的学习需求开展专题讲座。学习日活动将持续整合优质资源,为校友提供职业发展与学业需求的支持和服务,构建互帮互助、终身学习的校友交流空间。截至202212月底,已有近2.1万人次校友参与学习日活动。

 

供稿|继续教育学院

相关新闻

  • 292023.06

    刘石主讲“清华校友学习日”第45讲:唐宋词的旅程

    6月24日下午,清华大学人文学院教授、博士生导师、院长,清华大学中国古典文献研究中心主任刘石应邀出席“清华校友终身学习支持计划·学习日”第45场活动,分享了以“唐宋词的旅程”为主题的讲座。清华大学校友工作办公室主任、清华校友总会秘书长唐杰出席本次活动。1700余名校友、师生线上线下同步参与学习。刘石主讲词是中国文学的重要文体,也是世界文学中的独特艺术。刘石系统介绍了词的定义、体制、特性、发展历史、经典词...

  • 012023.12

    肖星主讲“清华校友学习日”第49讲:从财务视角看科创企业价值创造

    2023年11月25日下午,清华大学经管学院教授、会计系主任,清华大学全球私募股权研究院院长肖星应邀出席“清华校友终身学习支持计划·学习日”第49场活动,并作了以“从财务视角看科创企业价值创造”为主题的讲座,清华校友总会副秘书长施嘉儒出席本次活动。2300余名校友、师生线上线下同步参与学习。

  • 292023.03

    刘涛雄主讲“清华校友学习日”第42讲:数据要素及其治理

    2023年3月25日下午,清华大学社会科学学院经济学长聘教授、博士生导师,清华大学创新发展研究院院长刘涛雄应邀出席“清华校友终身学习支持计划·学习日”第42场活动,以“数据要素及其治理”为主题进行了讲座分享。清华大学校友工作办公室副主任、清华校友总会副秘书长杨柳出席本次活动。1400多名校友、师生线上线下同步参与学习。刘涛雄主讲随着我国迈入数字经济时代,数据作为生产要素在经济社会发展中发挥着越来越重要的作用...

  • 032022.11

    李乐飞主讲“清华校友学习日”第38讲:系统思维与系统工程

    10月29日下午,清华大学工业工程系长聘副教授、副系主任李乐飞应邀出席“清华校友终身学习支持计划·学习日”第38场活动,为校友带来“系统思维与系统工程”主题讲座。清华大学校友工作办公室副主任、清华校友总会副秘书长杨柳出席本次活动。近2000名校友、师生参与线上学习。

  • 022023.05

    王雄主讲“清华校友学习日”第43讲:我们为什么要健身

    4月29日下午,在清华112岁生日之际,人文社科学院2006级校友、国家体育总局训练局国家队体能训练中心创建人、主任王雄应邀为“清华校友终身学习支持计划·学习日”第43场活动作了以“我们为什么要健身”为主题的讲座。清华大学校友工作办公室副主任、清华校友总会副秘书长杨柳出席本次活动。1300多名校友、师生线上线下同步参与学习。王雄主讲王雄从我们为什么要健身、人类身体训练发展历史、健身练什么和为什么、健身流行话题以...

  • 022023.06

    张毅主讲“清华校友学习日”第44讲:智能车路协同技术与应用

    5月27日下午,清华大学自动化系教授、博士生导师,自动化系系统工程研究所所长,车路协同与自动驾驶研究中心主任,智能无人车研究中心主任张毅应邀为“清华校友终身学习支持计划·学习日”第44场活动作“智能车路协同技术与应用”主题讲座。清华大学继续教育学院副院长郭钊出席本次活动。近500名校友、师生线上线下同步参与学习。

  • 022022.06

    李政主讲“清华校友学习日”第34讲:气候变化与碳中和

    5月28日下午,“清华校友终身学习支持计划”学习日第34讲在线上举行。清华大学气候变化与可持续发展研究院常务副院长、清华大学低碳能源实验室主任、清华-BP清洁能源研究与教育中心主任李政应邀为校友们带来 “气候变化与碳中和”主题讲座。近1300名校友、师生参与线上学习。

  • 312023.10

    张雷主讲“清华校友学习日”第48讲:感知与创造——关于现代设计

    10月28日下午,清华大学美术学院工业设计系系主任张雷教授应邀出席“清华校友终身学习支持计划·学习日”第48场活动,并作了题为“感知与创造——关于现代设计”的讲座。清华校友总会副秘书长施嘉儒出席本次活动。500余位校友、师生线上线下同步参与活动。随着社会的不断进步,工业设计在大众的日常生活中扮演着越来越重要的角色。工业设计不仅仅要体现其审美价值,更需要解决问题并提高大众的生活质量。本次讲座张雷围绕“如何...

  • 032019.12

    邓锋主讲清华校友学习日第10讲:成就别人、成就自己——投资与人生

    11月30日初雪消融,“清华校友终身学习支持计划”学习日活动第10讲在清华大学公共管理学院报告厅如期举行。

  • 012022.07

    沈阳主讲“清华校友学习日”第35讲:元宇宙的发展与挑战

    6月25日下午,清华大学新闻与传播学院教授、博士生导师,清华大学新闻与传播学院新媒体研究中心执行主任,清华大学新闻与传播学院元宇宙文化实验室主任沈阳应邀为校友们带来“清华校友终身学习支持计划”学习日第35讲“元宇宙的发展与挑战”主题报告。清华大学校友工作办公室主任、清华校友总会秘书长唐杰出席本次活动。近2000名校友、师生参与线上学习。沈阳主讲沈阳从元宇宙的缘起、发展脉络、构建步骤以及应用场景等维度带领...