日期：2024-10-31
移动：http://keant.xrbh.cn/quote/9614.html
虽然LLM有着复杂的算法和巨量的训练数据，但它本质上还是一个数学模型，缺乏对世界的理解。这些工具被设计来预测文字出现的概率，而不是生成真理。它们会识别训练集数据中的模式（下一个最可能的字元），通过统计学上的概率预测文字。这样生成出的文字非常依赖于训练集数据中所出现的文字模式。
进一步说，因为每个预测出的字元都会影响接下来的字元，前面错一个词就会引发恶性循环，越来越不准。因此指令写得好既能增加每个字元预测准确的概率，也会减小错误不断积累的效应。
指令很重要的另一个关键原因在于LLM可以根据上下文学习。这个能力让模型可以暂时适应它们所收到的指令，因此指令对传达上下文信息至关重要。
因此，掌握编写有效指令的艺术与科学——有时被称为“指令工程”——是提升LLM能力的关键。想要得到最优的结果，就得同时拥有领域相关的知识和对模型本身的理解和技术，而这需要通过学习和经验来锻炼。
因此，第一条建议就是去摆弄模型。与模型的交互越多，就越能理解其中的细节，以及它能如何帮助我们达成需求。本文列出了几条可行的策略和规则，以及其背后的原理，帮助你更好地精通此道。
引导模型得出解法
LLM缺乏对语义的理解，因此想要它举一反三超出训练集很难。但是，它的参数化能力让它获得了一套昂贵的过往数据（“记忆”），可以从中提取信息。这套记忆来源于训练数据（“长期记忆”）以及指令和交互记录（“工作记忆”）的综合。这两者的组合——推广能力低下但记忆力超群——意味着LLM可以在复杂的任务被拆解成较小的任务和步骤后有效处理它们。
例如，和宽泛的命令把“文本翻译成中文”相比，可以考虑把它拆解成两步：“首先按字面意思翻译，保持含义不变；然后将翻译润色，让它符合中文的语言习惯”。类似地，与其让它直接写出一篇1000字的论文，不如尝试把任务分解成子任务，用具体的指令分别生成出概述、结论和中心论点。
清晰、逐步的指令会降低模糊性和不确定性，因此可以生成更为准确的回复。把更大的任务简化成更小的逐步任务，就可以有效利用LLM稳健的记忆力，并且能通过结构性指示来弥补它有限的抽象能力。
添加相关的语境
LLM比人类的“工作记忆”大多了。因此，想要让它提供精准且符合问题语境的回复，在输入中提供相关的语境就很重要了。一个限定语境的问题应当：
· 包含具体内容。将你的问题根植于具体的细节之中，这样才能引导LLM产生更为准确，相关的理解。因此，不要让它起草一份求职信，而是把职位广告和你的简历一并提供给它，以增加相关的上下文。
· 给信息排出优先级。让你的交互基于相关的事实信息。不要问模型怎么才能永远幸福快乐，给它提供一份经同行审议的论文，基于那篇研究问它问题。
指令要明确
要想降低模型预测时的不确定性，就要说明你想要什么。不要说“润色这篇文章”，而是提供一份更精确的指示，考虑你想要什么样的风格，你的目标受众，以及你有没有某种特定的需求（例如明确性或简洁性）。因此，一段更具体的指示可能是“像个顶级期刊的顶级编辑那样，润色这篇文章让它更为清晰流畅。”
再举一个例子，若是要让它给你建议一个名字，就可以通过加入限制条件来明确要求：“名称必须以动词开头，其隐含的主语/行为主体是用户”。尽量明确地说明任务、目标、想要的重点和任何限制条件。模糊的需求就会导致模糊的回应，而明确的指令有助于：
· 减少指导语及需要处理的文字的模糊性（例如，使用特定标签、字符或符号作为分隔符）。
· 让LLM可以专注于你的特定需求方面。
· 提供清晰的条件来判断模型的准确度。
让它提供多种选项
· 鼓励模型探索多条出路，这会让模型的输出有更强的创造力和多样性。
设定角色
LLM巨量的训练数据集意味着它能够模拟各种角色来提供专业的反馈或独特的视角。和征询泛用建议或信息相比，你可以考虑让模型做个角色扮演：让它模仿你的典型读者来提供写作上的反馈；扮演一名写作教练来帮助修订手稿；扮演一只擅长人类生理学的西藏牦牛来解释高海拔的影响；或扮演一块有智慧的奶酪蛋糕来讲奶酪蛋糕比喻——可能性是无限的。设定角色可以：
· 给模型的回复设定语境，这让它更符合你的特定需求。
给它例子，不要光解释
LLM擅长小样本学习（有示例的学习）。因此，一个特别有效的手段就是使用具体的例子来丰富你的意图。不要模糊地讲“以这些数据制图”，考虑提供一个例子：“为这些数据画张条形图，类似附件论文中的图。”就像对理发师描述想要的发型那样，一张图片赛过千言万语。无论是编程时给一段代码还是写作时给一段例句，明文写出的例子会成为模型无价的指南。提供一套可用的参考可以达成很多目的：
· 明确语境，这让LLM可以更好地理解你的要求的细微之处。
声明想要的输出格式
LLM经常废话太多。明确你想要的格式——重点，阅读水平，语气等等——有助于限制可能结果，改进相关性。例如，不要说“总结关键结论”，可以声明输出格式：“总结出关键结论并分项列举，使用高中生也能理解的语言。”预先声明格式还可以提供清晰的标准来评估LLM的表现。
实验，实验，再实验
什么指令更有效没有一定之规。稍微调整一下可能就会产生显著甚至意外的差异。考虑以下示例：
· 在一系列推理问题中，在指令中简单加入“一步一步思考”。
· 调整措辞、长度、详细度和限制条件。
吴岩副部长2018-2022年报告（含下载链接）
教学能力提升 | 30s快速制作100页PPT
干货 | “大单元教学”设计模板分享
17个优秀“课程思政”教学设计案例汇总
成果导向(OBE)如何推动高校课改（附三个案例）
创新性教学方法的几种基本类型分析
金奖分享 | 往届“互联网+”大赛高教主赛道获奖作品展示
教案模板分享 | 教学能力大赛专业课程组一等奖
以学生为中心的15个教学策略：重塑课堂教学
干货分享 | 《教学大纲》融入课程思政编写指南
教学竞赛PPT这样做，让评委眼前一亮！
教学比赛 | 30个无生教学展示国赛优秀作品
2023年人文社科基金项目申报可供参考的133个选题
教学成果奖：特等奖、一等奖总结报告分享
科研课题申请书通关秘籍（40个问题+10原则）
