校友服务

唐杰主讲“清华校友学习日”第40讲:从千亿模型到chatGPT的一点思考

2023-01-05 | 来源 公号“清华校友总会订阅号”2023-01-04 |

20221231日下午,清华大学计算机系唐杰教授应邀出席清华校友终身学习支持计划·学习日40场活动,分享了以从千亿模型到chatGPT的一点思考为主题的前沿讲座。近千名校友、师生在线参与了全年最后一场学习日活动,在对人工智能的探索与憧憬中共同迎接新年的到来。

唐杰授课

近年来人工智能的快速发展受到社会各界的广泛关注,超大规模预训练模型取得了突飞猛进的进步。唐杰从OpenAI发布的大规模自然语言预训练模型GPT-3谈起,详细介绍了大模型的进化史,及其所表现出来的能够更好处理现实世界复杂性问题的能力与可能性,同时介绍了近日推出的AI聊天机器人chatGPTchatGPT具有强大的思维方式和推理能力,能够回答非常复杂的推理问题,展现出了惊人的语言能力。

唐杰授课

训练GPT-3面临着成本高昂、人力投入大、模型训练过程不稳定等重重挑战。对此,唐杰与其团队自研了GLM-130B模型。GLM-130B属于开源开放的中英双语模型,推理精度和效率都还不错,支持低成本、低资源使用,同时支持跨平台(英伟达、海光、华为芯片)训练与推理。团队在研发该模型过程中从零开始,攻克了从算法到工程上的无数难题,在大规模预训练模型的研发上取得了一定的进展。最后唐杰谈到,从千亿模型到chatGPT的道路非常艰辛,未来重点要解锁大模型的In-context能力、与环境和自我的交互能力、自我反思学习能力。

师生互动交流环节,校友们围绕数据获取、数据应用、大数据训练、智能机器人等提出问题,唐杰从专业角度给予回应和解答。

本场讲座为2022年的最后一场学习日活动,感谢讲座专家和校友们一年中的支持与陪伴,也期待校友们为学习日发展提出更多宝贵的意见和建议,我们也会继续努力为校友们提供更有价值的终身学习资源。过往皆序章,未来皆可盼。在此祝愿校友们新年快乐,平安顺遂。我们2023年春天再见!

清华校友终身学习支持计划

2013年,清华校友总会启动清华校友学堂项目,整合社会资源,支持校友开展形式多样的学习活动。2017年,校友总会在清华校友学堂项目等工作的基础上,推出清华校友终身学习支持计划,依托校内资源,举办清华校友学习日清华校友学习班,构建全周期多方位的校友终身学习服务体系。

“清华校友学习日”系列活动由清华校友总会、继续教育学院共同组织并协作实施,由清华终身学习和终身教育基金提供定向资金支持。20181125日开启学习日活动首次讲座,此后每个月的最后一个周六,根据校友们的学习需求开展专题讲座。学习日活动将持续整合优质资源,为校友提供职业发展与学业需求的支持和服务,构建互帮互助、终身学习的校友交流空间。截至202212月底,已有近2.1万人次校友参与学习日活动。

 

供稿|继续教育学院