6月12日上午,西南交通大学教师数字素养提升研习班举行第七场活动。电子科技大学信息与软件工程学院陈峥副教授受邀在犀浦校区X30517,带来了题为“ChatGPT提示工程及其教学应用实践”的讲座。来自我校和四川师范大学等四校500余名教师,线下线上共同学习“运用提示工程与AI对话”的原理和方法。
陈峥结合其著作《与AI对话:ChatGPT提示工程揭秘》,深入介绍了大语言模型的技术原理、使用方法和应用技巧,讲解了如何激发大模型在教育中的创新应用。
陈峥首先让ChatGPT作了简短的自我介绍,然后带老师们回顾了语言模型从马尔可夫模型到ChatGPT模型的发展历程。ChatGPT的工作原理是什么?Transformer和基于人工反馈的强化学习,正是ChatGPT背后的模型和训练技术。对此,陈峥用专业语言进行了解读,并指出,语言模型与ChatGPT其实都是在算概率。随后,引出了提示工程的概念——即在使用语言模型时,设计和优化输入提示(prompt)的过程。随后,他不时与ChatGPT互动,并举例具体阐述了提示包括的要素和编写的基本原则。老师们快速理解了提示包括的指令、上下文、问题和指示四要素。然后,在陈峥指导下,老师们尝试根据学到的六大原则进行具体运用。这些原则包括清晰地给出指令、发阅读材料、把复杂任务拆解成子任务等。陈峥强调,训练大模型时,把话说清楚最重要。
解读了ChatGPT运行的底层逻辑后,陈峥介绍了提示工程对于师生可以承担的角色,展示了如何应用提示工程来提升教与学的效果。老师们发现,原来大模型解决复杂问题也需要思考。陈峥结合自己任教的课程,重点讲解了通过提示工程进行诊断测验的生成和对作业进行评分的方法。
提示工程有常规和“高级”之分。陈峥简要介绍了思维链和推理-行动提示等高级提示工程技巧,展示了在“Let's think step by step”“咒语”的协助下,通过复杂的提示工程,激发语言模型高级能力的过程。此外,他还探讨了提示工程以外的技术,比如借助召回增强与领域微调,进一步提升大模型的性能和适应性。他认为,未来,除了有提示工程,还属于知识库和领域大模型。
最后,对于老师们关于信息泄露、出题细节、学术不端鉴别等操作方面的问题,陈峥进行了深入剖析与细致解答。他强调:大模型只是助手,教学的主导权还是要紧紧握在教师手中。老师们认为,陈老师有着研究者和应用者双重身份,专业深功底深厚,讲课深入浅出,自己受益匪浅。