学习AI
从AI与LLM基础，到当下的前沿研究。
分类: 3 · 条目: 30 · 术语: 35
在“学习AI”中搜索。用空格分隔词语，可查找同时包含这些词语的条目。
从感兴趣的地方开始
全部学习条目
条目: 30 · 术语: 35
AI与LLM基础14
即使初次接触AI，也能理解研究、训练和服务。从身边的例子认识真实AI的基础。
本分类介绍真实AI基础。游戏中的性能、费用和天数是经营玩法的表达；相关操作可从各项“相关阅读”查看。
从图解开始
AI、机器学习和生成式AI有什么不同？
AI是计算机进行识别、预测和决策等技术的统称。机器学习从数据中学习规律；生成式AI则生成文字、图像等内容。
AI、机器学习和生成式AI有什么不同？
AI是计算机进行识别、预测和决策等技术的统称。机器学习从数据中学习规律；生成式AI则生成文字、图像等内容。
AI是计算机进行识别、预测和决策等技术的统称。机器学习从数据中学习规律；生成式AI则生成文字、图像等内容。
AI、机器学习与生成式AI
即使对于同一封电子邮件，分类和创建回复的角色也是不同的。
左：按规则排序
根据预定条件对电子邮件进行排序。除了从数据中学习之外，人工智能还有其他机制。
中：从样本学习分类
使用分类电子邮件等来了解规律并对新电子邮件进行分类。这是机器学习的一个例子。
右：创建新回复
使用学习到的规律生成与指令匹配的句子。这是生成人工智能的一个例子。
机器学习和生成式人工智能都包含在人工智能中。机器学习是一种学习方法，生成式人工智能是创建内容的人工智能的名称。像LLM这样的生成式人工智能是使用机器学习创建的。
这是已被桌子和材料取代的说明性插图。
深度学习是机器学习的一种
将神经网络计算组合成多层的方法，是LLM等的基础。并非所有AI都使用深度学习。
表格可左右滚动。
| 字 | 意义 | 例子 |
|---|---|---|
| AI | 进行智力工作的整个艺术。它还包括根据既定规则运行的机制。 | 游戏对手、图像识别 |
| 机器学习（ML） | 使用示例数据了解预测和分类的规律。 | 垃圾邮件分类、销售预测 |
| 人工智能一代 | 使用学到的规律生成新内容。 | 起草文本、生成图像和音频 |
例如：相同的电子邮件，但角色不同
“判断是否垃圾邮件”属于分类，“撰写回复”属于生成。AI企业应按客户任务选择技术。
放到AI Inc.中思考
选择研究领域时，不仅要考虑技术的名称，还要考虑您希望下一个模型能够完成什么样的工作。
什么是LLM？它如何生成文字？
LLM是“大语言模型”的缩写。它从大量文字等数据学习语言规律，用于生成、摘要和翻译等任务。
什么是LLM？它如何生成文字？
LLM是“大语言模型”的缩写。它从大量文字等数据学习语言规律，用于生成、摘要和翻译等任务。
LLM是“大语言模型”的缩写。它从大量文字等数据学习语言规律，用于生成、摘要和翻译等任务。
LLM：计算后续内容，生成文字
从上下文中计算下一个候选并继续。
接收上下文
使用说明、问题和之前生成的内容。
计算下一个建议
计算下一个token的候选与概率。
写一个句子的延续
将新生成内容也纳入上下文，反复计算下一个token。
一张纸是一个令牌的隐喻。标记是不一定与单词匹配的小文本单元。文本的自然性和事实的正确性之间存在差异。
这是已被桌子和材料取代的说明性插图。
计算继续建议
它将文本划分为小单元的标记，并根据输入和迄今为止生成的内容计算下一个标记候选者和概率。重复此过程以创建答案。
模型和聊天应用程序不同
模型是根据输入计算输出的部分。聊天应用程序使用结合了对话历史记录、搜索、文件、工具等的模型。哪些功能可用还取决于应用程序。
例如：续写“因为下雨，……”
“带伞”“推迟出门”等都是适合上下文的候选。LLM也会在长文中计算类似续写；实际处理单位未必是单词。
当心
即使你能写出自然的句子，也并不一定意味着内容是正确的。你需要回顾所学的知识、分发的材料以及搜索的信息范围。
放到AI Inc.中思考
完成的模型和我们向客户提供的 API 产品是不同的阶段。创建模型后，会导致调整使用、定价和供应的原因。
什么是token与上下文窗口？
token是模型处理文字等信息的小单位。上下文窗口表示单次处理可参照的信息长度上限。
什么是token与上下文窗口？
token是模型处理文字等信息的小单位。上下文窗口表示单次处理可参照的信息长度上限。
token是模型处理文字等信息的小单位。上下文窗口表示单次处理可参照的信息长度上限。
上下文：本次使用的信息
将桌子上的材料与架子上存放的材料分开。
桌上：这次给出的信息
应用程序传递给此流程的说明、问题、对话历史记录和材料将包含在上下文中。
货架内：尚未移交的物资
即使您保存了材料或过去的对话，除非这次提供给您，否则您可能无法参考它们。
上下文窗口是可参照信息长度的上限，通常按token计。提供资料不是追加训练，能放入长资料也不代表能准确利用全部内容。
这是已被桌子和材料取代的说明性插图。
字符数/单词数不匹配
token可能是单词、部分单词或字符，分法因模型和语言而异。不能总把一个日文字符视为一个token。
对话和材料也可以作为参考信息。
应用提供的指令、对话历史和资料都会进入上下文。输入输出上限因模型而异；能放入长资料，不保证能准确利用全部内容。
例如：在桌子上铺展材料的图像
上下文像为本次回答摊在桌上的资料。放资料到桌上，与对模型追加训练是不同的事。
放到AI Inc.中思考
随着处理的信息量的增加，现实世界服务中的计算和内存负担也将发生变化。在游戏中，检查要提供给客户的推理需求和供应。
参数越多，模型就越好吗？
参数是训练中调整的模型内部数值，可提示模型规模，但数量多不代表适合用途。
参数越多，模型就越好吗？
参数是训练中调整的模型内部数值，可提示模型规模，但数量多不代表适合用途。
参数是训练中调整的模型内部数值，可提示模型规模，但数量多不代表适合用途。
模型选择：规模、用途、成本
不仅要比较产品的数量，还要比较使用它们的工作条件。
左：学习时需要调整的数值
参数是模型内部数值，数量多不代表适合用途。
中：在实际用途上验证
用真实的问题和材料对其进行测试，以确保其满足您所需的质量。
右：同时比较资源和成本
比较满足质量要求的候选人的速度、成本、计算和内存负担。
旋钮比喻内部数值调整。参数量不是已知事实数量，数据、设计和训练方法也影响结果。
这是已被桌子和材料取代的说明性插图。
学习时需要调整的数值
指神经网络权重等数值，从大量样本调整以得到适合目标的输出。参数量不是已知事实数量。
一起查看性能、资源和使用情况
除了规模之外，数据质量、设计和学习方法也会影响结果。大型模型通常需要更多的计算资源和内存，但配置和优化也各不相同。我们在实际使用中对比一下。
例如：简短文本分类与复杂写作
轻量级模型可能足以对短查询进行分类。更复杂的写作可能需要更高水平的能力。比较满足您所需质量的模型的速度和成本。
放到AI Inc.中思考
设计模型时，不仅要考虑预测性能，还要考虑训练成本和推理负载/速度。我们将把扩大规模的决定与继续经营业务的决定结合起来。
学习和推理有什么区别？
学习是调整模型内部值的过程，推理是使用训练好的模型计算答案的过程。还需要计算资源来为用户提供答案。
学习和推理有什么区别？
学习是调整模型内部值的过程，推理是使用训练好的模型计算答案的过程。还需要计算资源来为用户提供答案。
学习是调整模型内部值的过程，推理是使用训练好的模型计算答案的过程。还需要计算资源来为用户提供答案。
学习和推理
创建和使用模型时都需要计算。
学习：调整模型
使用示例数据调整模型内的数字。
推理：使用经过训练的模型
输入新问题等，并计算答案。
通常的推理不会更新模型内部参数。保存对话与进行追加训练也是两回事。
这是已被桌子和材料取代的说明性插图。
训练是根据示例调整模型所花费的时间
将示例的输出与学习目标进行比较并调整内部数字。如果将创建模型的过程和使用创建的模型的过程分开，将更容易理解资源和成本之间的差异。
推理是回答当前请求的时候。
使用学习到的数字根据输入计算输出。正常的推理并不是每次回答时都重新学习内部数字的过程。将对话和材料作为当前输入与额外学习是分开的。
表格可左右滚动。
| 要检查的事情 | 学习 | 推理 |
|---|---|---|
| 目的 | 从样本调整模型参数 | 计算新输入的输出 |
| 输入示例 | 教育文本、问题和答案的示例 | 用户问题、参考资料 |
| 内部号码 | 通过学习更新 | 按正常推理未更新 |
| 如何利用资源 | 创建和改进模型的计算 | 处理客户请求的计算 |
例如：即使创建后，也有运营成本
即使您完成了回答查询的模型，您仍然需要在每次用户提出问题时进行推断。随着更多人同时使用，所需的输送能力也随之增加。
当心
保存对话并使用输入以供将来学习是一种服务策略，与在当前答案期间更新参数不同。
放到AI Inc.中思考
用于学习和推理的计算资源是不同的角色。即使学习完成，如果分配给推理不足，也会出现客户供应不足的情况。
什么是预训练与微调？
预训练是从广泛的数据中学习基本规律的过程，微调是用附加数据调整训练好的模型的过程。
什么是预训练与微调？
预训练是从广泛的数据中学习基本规律的过程，微调是用附加数据调整训练好的模型的过程。
预训练是从广泛的数据中学习基本规律的过程，微调是用附加数据调整训练好的模型的过程。
预训练与追加训练
建立一个基础并调整它以适合您将使用它的工作。
左：通过广泛的示例奠定基础
使用许多句子学习基本规则。这就是调整模型内部数值的过程。
右：根据适合您的目的的示例进行调整
使用经过训练的模型作为起点，并通过适合您的工作和输出格式的示例进行额外学习。微调更新内部值。
通过 RAG 提示或传递材料与额外学习是分开的。通过使用未用于学习的示例来检查学习是否有所改进。
这是已被桌子和材料取代的说明性插图。
通过预训练打下基础
许多语言模型通过解决大量任务来学习单词的规律性，例如预测句子的延续。通过使用预先训练的基础，无需每次都从头开始创建模型。
通过追加训练适应用途
问题和所需答案的示例使说明更易于遵循或针对特定任务和输出格式进行定制。学习响应指示和使用人们的评价包含在预学习之后的后培训中。
例如：统一查询分类格式
可以考虑进行额外的学习，以便更容易使用查询语句和“计费”、“合同”和“操作”的分类示例以固定格式输出。检查是否使用未用于学习的示例进行了改进。
当心
附加学习与 RAG 不同，RAG 是搜索材料。它不是确保记住新事实的一种选择方法。
放到AI Inc.中思考
使用父模型进行衍生开发引发了利用现有基础的想法。请阅读目标确认屏幕，了解游戏中要延续的性能和成本条件。
我应该增加训练数据量吗？
数据不只要多，还需准确、多样并适合用途。只擅长训练例子、面对新例子很弱，称为过拟合。
我应该增加训练数据量吗？
数据不只要多，还需准确、多样并适合用途。只擅长训练例子、面对新例子很弱，称为过拟合。
数据不只要多，还需准确、多样并适合用途。只擅长训练例子、面对新例子很弱，称为过拟合。
学习数据：数量、质量、如何检查
不要只是添加更多示例，而是清理它们并与其他示例进行检查。
数量：只有类似的例子吗？
即使增加示例数量，如果存在大量重叠或偏差，也无法完全涵盖使用它的情况。
质量：准备符合使用情况的示例
检查错误和重复，并准备大量接近实际问题、语言和受众的示例。
评估：检查未使用的示例
将学习部分、调整验证部分、最终测试部分分开。让我们看一下研究中未使用的示例。
过度拟合是指系统仅在训练期间看到的示例较强而在新示例中较弱的状态。我们关注数据的数量、质量以及数据与预期用途的接近程度。
这是已被桌子和材料取代的说明性插图。
创建一个与其使用情况类似的示例
错误、重复和有偏见的数据也会影响您的结果。确定您期望的问题类型、语言和用户，并准备代表实际使用的示例。
单独的学习和评估数据
如果你只评估学习过程中记住的例子，将很难判断你是否可以处理新的输入。我们还区分用于调整的验证数据和用于最终确认的测试数据。
例如：仅通过简短的问题进行学习
即使您擅长简短、固定的短语，但您可能不擅长长篇大论或具有不同措辞的问题。我们将检查未使用的数据，包括用户实际编写的示例。
放到AI Inc.中思考
数据获许、整理和选入训练是不同阶段。理解现实数据质量，也有助于理解游戏中的整理目的。
写提示词也是训练吗？
提示是您传递给模型的说明或信息。通常，答案的条件会改变，这与更新模型参数的学习不同。
写提示词也是训练吗？
提示是您传递给模型的说明或信息。通常，答案的条件会改变，这与更新模型参数的学习不同。
提示是您传递给模型的说明或信息。通常，答案的条件会改变，这与更新模型参数的学习不同。
提示词：目的、资料与输出格式
告诉他们您希望他们做什么、使用什么以及如何回应。
目的：告诉我们您想要什么
具体说明任务，例如“总结会议记录”。
材料：传达使用范围
给他们你希望他们参考的会议记录并指出会议的范围，并说：“我只会使用这些材料。”
格式：告诉答案的格式
指定“三条要点列出决定事项”等输出形式。
传递指令和材料通常与模型的进一步学习是分开的。即使说明很具体，错误仍然会发生，因此请与材料交叉检查你的答案。
这是已被桌子和材料取代的说明性插图。
传达目的、材料和输出格式
详细写下您希望他们做什么、您希望他们使用哪些信息以及您希望他们如何回应。如有必要，还可以传递所需输出的示例。
使用您提到的信息继续对话。
您可以使用过去的语句的原因是因为应用程序有一种将它们传递给模型的机制。仅仅能够在对话期间使用新信息并不意味着模型已经永久学习。
例如：把“总结一下”说具体
例如“仅用以下会议记录，把决定事项列成三点，不要补充资料以外内容”，说明目标、范围和格式。
当心
详细的说明可能会有所帮助，但不能保证没有错误。让我们根据实际材料检查输出。
放到AI Inc.中思考
游戏内模型设计和启动训练，不同于现实聊天中撰写指令。仅保存设计不会产生主训练费用或进度。
什么是RAG与嵌入？它们与追加训练有什么不同？
RAG检索回答所需资料，并把找到的内容交给模型生成回答。检索资料与模型参数分开管理。
什么是RAG与嵌入？它们与追加训练有什么不同？
RAG检索回答所需资料，并把找到的内容交给模型生成回答。检索资料与模型参数分开管理。
RAG检索回答所需资料，并把找到的内容交给模型生成回答。检索资料与模型参数分开管理。
RAG：先找资料，再回答
将检索到的材料传递给模型进行回答。
搜索相关材料
从与问题相关的手册等资料中，检索所需内容。
连同问题一起传递
将找到的材料传递给模型作为答案中参考的信息。
参考材料回答
模型生成答案。另请检查材料是否支持您的答案。
交出材料和学习额外的模型是两件不同的事情。 RAG 本身并不能保证准确性，因为材料可能是旧的，或者答案可能与材料有所不同。
这是已被桌子和材料取代的说明性插图。
搜索→递交材料→答案
搜索与您的问题相关的公司内部手册，并将相关部分与您的问题一起传递。无需重新训练整个模型来参考更新的文档。
通过嵌入查找相近内容
嵌入是一种将句子等特征表达为数字序列的方法。您可以利用这种邻近性进行搜索。 RAG 还提供关键字搜索以及两者的组合。
信息使用方式的差异
以查询响应为例，我们将这次要传递的信息和学习时要调整的数字分开。
左：提示词
给出“回复限制为两句”等本次指令或资料。常规回答不会更新模型内部数值。
中：RAG
找到适合您问题的手册，并传递必要的部分和说明。查找和传递数据的过程本身并不会更新模型内部的数值。
右：微调
使用示例查询和所需的分类调整训练模型的内部数字。用于匹配“账单/合同/操作”的分类格式。
三种方法可以结合使用。RAG会把检索资料加入提示词。应先明确需要更新的资料，还是调整输出形式，再用实际问题验证。
旋钮比喻模型内部数值。三个场景比较不同方法，并非工作顺序。
例如：营业时间变更时
搜索具有新营业时间的材料并提供它们作为您答案的证据。如果您搜索旧材料，甚至 RAG 也可能是旧的答案。
当心
材料可能会被混淆，或者可能会生成材料中没有的信息。评估搜索结果和输出，以确保参考文献确实支持答案。
放到AI Inc.中思考
这是现实AI服务基础知识，并非游戏能单独设置RAG。它有助于理解按用途选择模型和数据。
什么是幻觉？为何要核对回答？
幻觉指生成看似合理、却无事实或资料支持的内容。自然文字中可能混入不存在的信息或出处。
什么是幻觉？为何要核对回答？
幻觉指生成看似合理、却无事实或资料支持的内容。自然文字中可能混入不存在的信息或出处。
幻觉指生成看似合理、却无事实或资料支持的内容。自然文字中可能混入不存在的信息或出处。
幻觉与依据核查
即使答案很容易阅读，也请打开源代码并检查。
左：阅读自然答案
仅凭详细解释和具体文件名称并不能确定是否有事实支持。
右：与原件核对
打开源代码并检查是否有部分支持您的答案，以及数字、日期和人员姓名是否匹配。
即使存在来源，也不一定支持答案。如果找不到任何证据，我们不会将其视为事实，而是会检查其他材料。
这是已被桌子和材料取代的说明性插图。
文本的自然性和事实的正确性是两件事。
LLM计算适合上下文的输出。自信的措辞或详细解释并不证明有依据；是否使用搜索或计算，也取决于应用机制。
通过实际打开来检查证据
检查文件的相关部分、数字、日期、人名等。即使存在引用，也不一定支持答案。如果您说不知道，我们会将其纳入您的评估中。
例如：编造看似真实的资料名
询问“这个功能的出处”时，AI可能编造不存在的说明书。即使资料名具体，也应确认原件是否存在。
当心
搜索、RAG、额外学习等有助于减少错误，但不能保证正确性。即使您减少了生产中的变化，错误的答案也可能会被修复。
放到AI Inc.中思考
外部评价是一种材料，可以让你阅读已确认的内容以及确认的程度。仅高性能和评估结果并不能保证所有应用的安全性。
如果基准高的话，你们能按原样提供吗？
基准是比较固定任务性能的评估。需要单独确认在客户实际应用中是否有用。
如果基准高的话，你们能按原样提供吗？
基准是比较固定任务性能的评估。需要单独确认在客户实际应用中是否有用。
基准是比较固定任务性能的评估。需要单独确认在客户实际应用中是否有用。
评估：常见挑战和实际应用
分别检查常见问题和工作条件。
左：阅读常见挑战的结果
使用相同的问题和评分条件比较模型的性能。阅读结果表以检查您尝试的任务的范围。
右：在您将要使用的工作条件下尝试一下。
使用实际材料和问题来确认所需的数量和截止日期仍然存在。我们还将关注响应速度和成本。
仅凭基准结果不能得出其对任何工作有用的结论。我们首先确定适合客户应用的条件，然后在更改模型和材料后对其进行检查。
纸张和文件夹是描述现实应用程序中常见分配结果和确认的隐喻。左右不是流程的顺序，也不能保证成功、安全或交付。人员和物资的数量并不代表测试的数量。
在与实际工作类似的条件下进行测试
比较使用的语言、使用的材料、问题的长度、所需的格式等。包括你在学习中没有使用过的例子或你无法回答的问题。
查看整个服务，而不仅仅是模型
我们不仅检查正确答案率和理由，还检查响应速度、成本、搜索失败、工具操作等。如果只看平均分，你可能会忽略在某些条件下较弱的模型。
例如：即使你善于总结，你仍然可能会漏掉数字。
如果缺少发票金额或截止日期，即使易于阅读的摘要也毫无用处。首先决定需要保留什么，并在这些条件下对其进行评估。
当心
评价结果是在测试条件和时间点下的观察结果。我们不保证未经评估的申请。即使对模型或材料进行更改后也要查看结果。
放到AI Inc.中思考
这就是为什么模型评估、发布、早期提供、客户迁移是分开评判的原因。我们来看看测试结果以及实际的供应和销售结果。
GPU、内存与响应速度有什么关系？
LLM需要大量数值计算，因此使用擅长并行计算的GPU等设备。算力、内存、并发量和回答长度都会影响服务。
GPU、内存与响应速度有什么关系？
LLM需要大量数值计算，因此使用擅长并行计算的GPU等设备。算力、内存、并发量和回答长度都会影响服务。
LLM需要大量数值计算，因此使用擅长并行计算的GPU等设备。算力、内存、并发量和回答长度都会影响服务。
推论：延迟和吞吐量
区分单次回答速度与处理大量请求的能力。
左：1 件商品的等待时间
延迟是发出请求和接收响应之间的时间。有时我们会衡量第一个字母和答案的完成程度。
右：一定时间内的处理量
吞吐量是单位时间处理的请求数或token数。也应检查并发用户增加后的处理量和等待时间。
单人使用快，也应单独检查拥挤时的延迟和吞吐量。除GPU算力外，内存、并发量和回答长度也会影响结果。
这是已被桌子和材料取代的说明性插图。
计算速度和可以存储的信息量是两个不同的东西。
GPU负责计算，内存用于存放模型和处理中信息。可类比桌面空间与工作速度的区别；此类比只解释作用，不能用桌子数量推算实际性能。
同时观察单次延迟与总体处理量
延迟是等待请求所需的时间，吞吐量是在一定时间内可以处理的数量。得到第一个字母所需的时间和得到整个长答案所需的时间也不同。通过测量同时使用情况和回答长度，可以更容易地比较提供条件。
| 指数 | 查看 |
|---|---|
| 延迟 | 一次请求到收到响应的等待时间。应区分首字延迟和全文完成时间。 |
| 吞吐量 | 单位时间可处理的请求或token数量。 |
| 记忆 | 存储模型和正在处理的信息的能力。 |
| 成本 | 必要的设备和操作的成本。因模型和供应条件而异。 |
例如：单人很快，并发时却要等待
单人使用速度无法说明100人同时使用时的服务能力。应同时测量延迟和单位时间处理量。
放到AI Inc.中思考
除GPU数量外，还应检查交付与运行状态，以及研究、训练和推理分配。游戏中的供给指标不是现实token数量或等待时间的换算。
什么是多模态AI？
它是一种处理文本、图像和音频等多种类型信息的人工智能。 “模态”是指信息的类型。可处理的输入和输出因模型而异。
什么是多模态AI？
它是一种处理文本、图像和音频等多种类型信息的人工智能。 “模态”是指信息的类型。可处理的输入和输出因模型而异。
它是一种处理文本、图像和音频等多种类型信息的人工智能。 “模态”是指信息的类型。可处理的输入和输出因模型而异。
多模态：文字、图像与声音
一起使用不同类型的信息。
左：以文字形式传达
输入问题、解释和材料等文本。
中心：也使用图像
使用此功能的一种方法是将文本和图像结合起来来解释所显示的内容。
右：也使用语音
在兼容的模型上，您可以输入您的声音并提出有关内容的问题。
可处理的输入和输出因模型而异。仅仅因为您可以输入图像并不意味着您可以生成图像。仔细检查结果是否有暗图像或难以听到的音频。
这是已被桌子和材料取代的说明性插图。
结合不同类型的信息
用文字解释图像中的内容，或听音频并回答图像中的内容。可以输入图像的模型不一定也可以生成图像。
结果根据输入条件而变化。
小文本、深色图像和难以听到的声音都可能导致误识别。即使您可以处理多条信息，您也需要检查每条信息的准确性。
例如：附上照片并询问指示
这是一种将机器照片与文本“这个按钮是什么？”进行匹配的方法。如果照片中的按钮不可读，则模型可能猜测错误。
放到AI Inc.中思考
在选择研究领域或市场时，这将帮助您考虑客户是否只需要文本，或者是否还需要图像和音频。请检查游戏内的说明以了解兼容的功能。
AI智能体与回答问题的AI有什么不同？
AI智能体会为目标选择步骤，并使用搜索或工具推进工作。回答文字的能力与采取行动的权限应分开看待。
AI智能体与回答问题的AI有什么不同？
AI智能体会为目标选择步骤，并使用搜索或工具推进工作。回答文字的能力与采取行动的权限应分开看待。
AI智能体会为目标选择步骤，并使用搜索或工具推进工作。回答文字的能力与采取行动的权限应分开看待。
应答 AI 和 AI 代理
将阅读提案与使用工具分开。
左：接收书面提案
以书面形式提出候选人的日程安排等。仅阅读该提案不会改变您的预订或任何其他内容。
右：使用工具并检查结果
根据目的选择步骤，使用搜索、计算等工具继续工作，并检查结果。
拥有连接的工具和拥有操作它的权限是两件不同的事情。对于发送、购买、删除等，确定许可范围和批准条件。
这是已被桌子和材料取代的说明性插图。
使用工具检查结果
组合操作，例如搜索所需信息、计算和更新记录。即使使用LLM，实际操作也是通过连接的工具和系统执行的。
决定允许执行的范围
对于仅读取等操作和发送、购买或删除等操作的影响是不同的。我们将设计可以使用的工具、需要批准的操作、中途停止的方法以及执行的记录。
例如：建议预约或确认预订
如果您只是以书面形式提出可能的时间表，您的预订将不会更改。一旦您连接到预订系统并授予他们确认权限，他们就可以采取行动。
当心
仅靠高文本生成性能并不能保证安全地完成委托给您的任务。评估整个流程，包括工具。
放到AI Inc.中思考
模型发布和执行权限是单独的决定。即使在游戏中，在决定可接受行为的范围之前，也要阅读评估范围、监督范围和事故情况。
神经网络与Transformer6
从计算数字到写句子。 6幅插图，简单易懂。
MODEL / MECHANISM
数字的计算是
直到成为一个句子。
先操作简单计算，再进入文字处理机制。用六步探索看不见的模型内部。
计算是用于说明的小模型。此页面的操作不会改变游戏或保存内容。
神经网络在计算什么？
它将输入值与学习确定的权重结合起来，并通过层将其转换为预测。一旦了解了一项计算，您就可以了解如何查看更大的模型。
神经网络在计算什么？
它将输入值与学习确定的权重结合起来，并通过层将其转换为预测。一旦了解了一项计算，您就可以了解如何查看更大的模型。
它将输入值与学习确定的权重结合起来，并通过层将其转换为预测。一旦了解了一项计算，您就可以了解如何查看更大的模型。
从输入到预测。
左边 3 个，中间 4 个，右边 2 个。这是一本将数字层层组合起来的三维教材。
左：接收输入
将照片、文本等转换为模型可以处理的数字。
中心：合并和转换
通过权重、偏置和激活函数，变换为下一层表示。
右：预测更改
创建适合工作的输出。即使在这个阶段，也不能保证正确的答案。
先跟随下方示例计算一个节点，了解负权重和ReLU的作用。
表示层次排列的说明插图。线条数量、颜色和粗细不代表真实模型的连接或权重。
输入层：把信息变为数值
传递模型可以计算的数字，例如照片的像素或文本的标记表示。如何创建输入取决于所处理的数据。
隐藏层：重新组合数值
每个节点都会为前一层的数字添加一个权重，从而添加偏差。对结果应用激活函数并将其传递到下一层。隐藏层是输入和输出之间的层。
权重与偏置：训练中调整的数值
权重决定各输入的影响，负权重会产生减去该输入的效果。偏置会平移求和结果。每个数值并非分别存放一条特定知识或事实。
激活函数：从简单求和到复杂关系
ReLU把负值变为0，非负值原样通过。单纯叠加加权求和层仍能合并为同类单次计算；加入非线性变换后才能处理复杂关系。
输出层：变为适合任务的形式
将最终的表达式转换为分类点、预测值等。并非所有节点数都是概率。下面的示例也显示了计算结果。
试着调整一个节点
输入固定为1和2。改变权重与偏置，看看总和和输出如何变化。
- 01 / 相乘再相加
1 × 0.6 ＋ 2 × (−0.2) ＋ 0.1
加权求和，再加偏置。
- 02 / 通过ReLU
max(0, 0.3)
如果为负数，则为0。如果大于等于0，则原样通过。
全部的 0.3→输出 0.3
尝试一下：如果将权重 1 设置为 -0.6，则总和为 -0.9，输出为 0。此输出不是概率或正确答案率。
例如：计算一个节点
如果输入为 1 和 2，权重为 0.6 和 -0.2，偏差为 0.1，则 1 x 0.6 + 2 x (-0.2) + 0.1 = 0.3。当通过 ReLU 时，它仍然是 0.3。让我们移动权重并检查总和变为负数时的输出。
当心
“神经元”一词受大脑启发；这里讨论数值计算，并非直接复现大脑功能。
此图用于说明输入层、隐藏层与输出层的概念。神经网络也有其他结构，例如用于图像的卷积网络和Transformer。
放到AI Inc.中思考
理解数据、模型设计与算力为何影响训练结果和费用。本帮助的调整按钮仅供学习机制，不会改变游戏模型或存档。
“学习”会改变哪些数值？
衡量预测与正确答案之间的差异，并逐渐调整权重以减少差异。让我们将读取答案与更新模型中的数字分开。
“学习”会改变哪些数值？
衡量预测与正确答案之间的差异，并逐渐调整权重以减少差异。让我们将读取答案与更新模型中的数字分开。
衡量预测与正确答案之间的差异，并逐渐调整权重以减少差异。让我们将读取答案与更新模型中的数字分开。
① 前向计算：先得到预测
使用当前权重从输入到输出进行计算。这就是前向传播。现阶段，我们尚未确定这是否接近正确答案。
② 计算损失：衡量与目标的偏差
用损失函数比较预测与训练目标。下例使用差的平方。预测文本的下一个token时，可用正确token的预测概率计算交叉熵等损失；应按任务选择衡量方式。
③ 反向追踪：求出调整方向
反向传播计算各权重发生微小变化时损失如何变化，这种变化率就是梯度。计算从输出沿网络回到输入侧，用于调整多个层。
④ 更新：决定每一步的大小
使用梯度和学习率更新权重。学习率是步长的大小。如果太大，损失可能会增加。实际上，我们会用许多示例重复它，并检查性能，甚至使用不用于学习的示例。
逐步更新权重
固定输入值为2、目标值为1、学习率为0.1。模型只有一个权重：预测＝2×权重，损失＝（预测−1）²。
更新 0·预言 0.2·损失 0.64
此例梯度＝4×（2×权重−1）
新权重＝当前权重−学习率×梯度
0.1 − 0.1 × (−3.2) ＝ 0.42
首次更新减去负梯度，因此权重增大。
| 更新次数 | 权重 | 预言 | 损失 |
|---|---|---|---|
| 0 | 0.1 | 0.2 | 0.64 |
这是针对单个学习示例量身定制的教材。在实际的神经网络中，许多权重的梯度是通过反向传播确定的，甚至对不用于学习的数据也进行评估。
例如：让预测 0.2 更接近正确答案 1
如果输入为 2，权重为 0.1，则预测为 0.2。损失为 (0.2−1)²=0.64。在这个例子中，如果我们将学习率设置为0.1，则第一次更新后的权重将为0.42，预测将为0.84，损失将为0.0256。您可以通过以下操作一一跟随同一个示例中的更改。
当心
计算示例是一个只有一个权重和一个训练示例的模型。它不会重现整个神经网络的反向传播。
简单例子中损失下降，不保证大模型训练成功或答对未知问题。也应警惕只擅长训练样本的过拟合。
放到AI Inc.中思考
这就导致了将学习的完成、模型的主训练以及完成后的评估分开的原因。在游戏中，通过比较学习前的预测和完成后的结果来确定下一步的投资。
句子如何变成数字？
将文本划分为标记并使用 ID 将它们转换为数字序列。我们将把该数字表达式与周围的信息结合起来。
句子如何变成数字？
将文本划分为标记并使用 ID 将它们转换为数字序列。我们将把该数字表达式与周围的信息结合起来。
将文本划分为标记并使用 ID 将它们转换为数字序列。我们将把该数字表达式与周围的信息结合起来。
token与ID：确定处理单位
分词把文字拆成小单位，并映射到ID。ID只是标识，大小不代表语义强弱，也不必与日文单词或字符一一对应。
嵌入：从ID到学习到的数值序列
根据ID从嵌入表取出向量，也就是一组数值。各分量未必具有“温柔”“聪明”等固定且人类可读的含义。
位置信息：告知计算安排
“公司制造模型”与“模型制造公司”的顺序不同。Transformer还使用位置或相对距离信息，具体加入方式因设计而异。
语境表达：与周围环境结合而变化
从第一个嵌入开始，每一层将其与周围的表示相结合。即使标记相同，中间的表达也会根据上下文而变化。仅仅替换 ID 并不能完成对文本的解释。
从单词数字到数字序列
查看假设部门中的“公司模型”。使用 ID 作为线索，从嵌入表中提取向量。
表格可左右滚动。
| 位置 | token | ID | 3维嵌入 |
|---|---|---|---|
| 1 | 公司 | 120 | [0.2, −0.4, 0.7] |
| 2 | 主语 | 8 | [−0.1, 0.3, 0.2] |
| 3 | 模型 | 305 | [0.6, 0.1, −0.2] |
| 4 | 将 | 9 | [0.1, −0.2, 0.4] |
- 提取嵌入
准备token最初的数值表示。
- 还使用位置信息
以适合设计的方式将词序和距离传达给计算。
- 捕捉周围信息
当它通过每一层时，表达式会根据上下文而变化。
ID305并不比ID120“意义更强”。分词、维数和数值因模型而异；向量的每个分量也未必对应人类可读的含义。
例如：结合周围词语理解“模型”
“评估AI模型”与“展示建筑模型”的周围词语不同。计算会把周边信息融入token表示，以处理具体上下文。
当心
图中的除法、ID和三分量向量是为了解释而虚构的示例。实际的分区、维数和数量因模型而异。
放到AI Inc.中思考
在选择上下文长度和数据使用时，有助于考虑要处理的信息量以及使用该信息的计算负担。
Transformer由哪些部件组成？
通过Attention混合位置间信息，再由Feed-Forward变换各位置表示，并叠加这种处理块的神经网络设计。
Transformer由哪些部件组成？
通过Attention混合位置间信息，再由Feed-Forward变换各位置表示，并叠加这种处理块的神经网络设计。
通过Attention混合位置间信息，再由Feed-Forward变换各位置表示，并叠加这种处理块的神经网络设计。
混合关系。改变你的表情。
从上到下。卡片代表一个重复块，两帧代表一个重复块。
顶卡：输入表达式
把token变成数值，并使用位置信息。
两个框：叠加处理块
混合位置之间的信息并转换每个位置的表示。旁路是保留原始表达的隐喻。
下方卡片：处理后的表示
在句子生成中，有一个部分是计算词汇分数和概率。
模型并非只有Attention。下方图解说明了处理顺序与各部分的作用。
用于学习Decoder架构的概念插图。2个块和4张卡片仅供说明，并非具体模型或原论文的完整结构。
Attention：引入其他位置的信息
计算从各位置引入多少信息，远处位置也可成为候选。生成文字时通过限制参照范围，避免看到未来token。
Feed-Forward：对各位置应用相同计算
对Attention后各位置的表示应用已学习的变换。逐位置处理，同一层使用相同参数，并包含非线性变换。
残差连接与归一化：支持层层叠加
残差连接是将原始表达式添加到新计算结果的路径。标准化是一种调整数字比例的计算。将它们组合起来形成块。标准化等的位置根据设计而变化。
最终输出：下一个token候选的分数
在句子生成中，最后位置的表达式被转换为整个词汇的分数，并使用 Softmax 创建概率分布。从候选者中选择下一个标记。Attention分布和输出候选概率是不同的数字。
用于句子生成的解码器类型流程
从上到下阅读。图示的卡片对应于“数值表达式”，并且框对应于“重复处理”。
- 输入token → 嵌入与位置信息
将句子转换为可用于计算的表达式。
- 重复Transformer处理块01 / 位置之间Multi-Head Self-Attention
隐藏未来位置并混合有关可以引用的位置的信息。
同时结合残差连接与归一化02 / 每个位置Feed-Forward（FFN）同层使用相同权重，对各位置表示进行非线性变换。
同时结合残差连接与归一化图中的两个块仅用于说明。实际数量因模型而异。
- 创建输出的部分最终位置表达式 → 词汇得分 → Softmax
计算后续token候选的概率。
- 产生选择下一个token，加入上下文
使用添加的上下文继续下一个候选。
残差连接是将原始表达式相加的路径，归一化是调整数字比例的计算。是否将标准化放置在组件之前或之后取决于设计。该图并未描绘原始论文中的整个编码器-解码器。
| 作品 | 阅读范围和目的 |
|---|---|
| Encoder | 使用输入之前和之后在句子中创建表达式。用于分类和搜索表达式。 |
| Decoder | 使用每个位置的信息生成延续。此处所示的配置。 |
| Encoder–Decoder | 将读取输入的一侧和生成输出的一侧组合起来。原始论文在翻译中涉及这种结构。 |
例如：结合上下文理解“它”指什么
“公司发布了新模型。它能总结文章。”处理“它”时，引入“模型”信息很有帮助。各层进一步变换表示并用于后续输出；具体Attention计算见下一篇。
当心
该图是用于理解Decoder类型生成模型的简化图。它不是原论文中的整个Encoder-Decoder，也不是特定产品的配置图。
这两个块仅用于说明目的。实际的层数、宽度、激活函数和位置信息会根据模型的不同而有所不同。
放到AI Inc.中思考
这为考虑模型设计、所需的计算资源和提供负担提供了背景。游戏的研究水平和表现值并非实际成分或测量值本身。
Self-Attention的Q、K、V在做什么？
创建一个 Q 来搜索要导入的信息，创建一个 K 来检查，创建一个 V 来实际导入信息，并根据关系的强度混合使用 V。
Self-Attention的Q、K、V在做什么？
创建一个 Q 来搜索要导入的信息，创建一个 K 来检查，创建一个 V 来实际导入信息，并根据关系的强度混合使用 V。
创建一个 Q 来搜索要导入的信息，创建一个 K 来检查，创建一个 V 来实际导入信息，并根据关系的强度混合使用 V。
Attention：句中元素的关系
相距较远的元素之间的关系也包含在计算中。
理解“它”与“模型”的关系
公司发布了新模型。它可以总结文本。
新模型与它
此句中“它”与“模型”的关系提供线索。计算也会考虑相距较远词语之间的关系。
这是说明词语关系的例子，不代表实际Attention权重。
计算输入中的关系
Self-Attention计算同一输入中其他token与某个token的关联程度。
创建与上下文相匹配的表达式
把这些关系纳入计算，经过多层形成适合上下文的表示。
一张纸是处理文本元素的隐喻。实际的标记不一定与单词匹配。Attention是一种计算方法的名称，并不意味着人类意识。
这是已被桌子和材料取代的说明性插图。
Q与K：生成用于匹配的数值表示
使用学习到的转换将每个位置的表示更改为 Q（查询）、K（键）和 V（值）。计算 Q 和 K 的点积，并创建根据维数调整的分数。 Q 是一个类似于搜索查询的隐喻，但它本身并不是文本中的问题。
Softmax：把分数变为权重
通过 Softmax 传递参考位置的点，并将它们更改为总和为 1 的权重。在生成模型示例中，我们首先屏蔽掉未来位置并赋予它们零权重。
V：乘以权重，混合信息
各V乘以Attention权重后相加。这不是选中一个词就结束，而是融入多个可参照位置的信息。
Multi-Head：并行使用多组变换
每个具有不同学习变换的 Head 都会计算关系并总结结果。人们不一定决定每个头的角色，也不一定意味着他们专门研究语法或代词。下面的示例只有 1 个 Head。
通过Q、K、V计算权重分配
这是3个位置、2个分量、1个Head的假设示例。将目标Q与各位置K比较，再按所得权重混合V；它不同于从词表选择下一个词的计算。
目标Q = [1, 1]
分数 = Q 和 K 的内积 ÷ √2
表格可左右滚动。
| 位置 | K：用于匹配 | V：要混合的信息 | 分数 |
|---|---|---|---|
| 1「公司」 | [1, 0] | [0.4, 0.1] | 0.707 |
| 2「模型」 | [1, 1] | [0.8, 0.6] | 1.414 |
| 3「它」 | [0, 1] | [0.1, 0.2] | 0.707 |
Softmax后的权重：合计100%
- 1「公司」24.8%
- 2「模型」50.3%
- 3「它」24.8%
位置3「它”的混合结果 [0.527, 0.377]。隐藏未来位置。
结果= 0.248 × [0.4, 0.1] ＋ 0.503 × [0.8, 0.6] ＋ 0.248 × [0.1, 0.2]
每个 V 乘以分布并为每个分量相加。显示的值经过四舍五入，因此显示的总计可能会偏离 100%。
尝试一下：如果您选择位置 1，如果存在因果掩码，它将仅 100% 使用位置 1。如果摘下面具，后面的职位也将成为候选人。数字不是真实模型的测量值。
例如：针对“它”使用假设数值计算
在下面的例子中，我们准备了Q、K、V 3个位置，将目标Q和每个K的内积除以√2后计算Softmax。如果将对象更改为之前的位置，则未来的位置将在生成的示例模型中被屏蔽。比较显示的分布和混合结果。
当心
除法、Q/K/V 和分数是出于说明目的的假设示例。这不是对真实模型Attention的测量，也不能证明语义关系已被正确学习。
Attention分布会根据输入而变化，但这本身并不意味着更新学习的参数。
Attention是计算方法的名称，并不代表人类意识，也不保证输出正确。
放到AI Inc.中思考
这就是为什么在处理长上下文和推理的计算中使用内存的原因。在考虑客户供应时，我们会同时考虑模型质量和资源负担。
LLM如何生成后续文字？
这里介绍自回归文字生成：从给定上下文计算下一个token概率，将选中token加入上下文，再计算下一个。
LLM如何生成后续文字？
这里介绍自回归文字生成：从给定上下文计算下一个token概率，将选中token加入上下文，再计算下一个。
这里介绍自回归文字生成：从给定上下文计算下一个token概率，将选中token加入上下文，再计算下一个。
不要把尚未生成的续文混入输入
生成时，它使用指令和先前的输出。即使在学习过程中并排处理具有正确答案的句子时，也会使用因果掩码来防止每个位置看到未来的正确答案。能够并行计算多个学习位置是一回事，能够看到未来的答案是另一回事。
基于概率进行选择：并不总是最佳候选者
有高概率选择候选人的方法和基于概率选择候选人的方法。输出将根据选择方法和温度等设置而变化。这种重复不能简单地说整个答案可以一次性完成。
选中的token也成为后续上下文
将生成的标记添加到上下文中并计算下一个候选者。它继续下去，直到到达指示终止、输出限制等的标记。由于重复选择，初始输出的差异也会影响后续句子。
继续您的选择到下一个输入
除法和概率都是虚构的。为了更容易理解，这里举一个例子，其中选择概率较高的候选者。
- 01
- 当前上下文
- AI的
- 下一位候选人
- 研究 60% · 应用 25% · 其他 15%
- 选择
- 研究
- 下一个上下文
- AI研究
- 02
- 当前上下文
- AI研究
- 下一位候选人
- 将 70% · 主语标记 20% · 其他 10%
- 选择
- 将
- 下一个上下文
- 开展AI研究
- 03
- 当前上下文
- 开展AI研究
- 下一位候选人
- 推进 55% · 支持 30% · 其他 15%
- 选择
- 继续
- 下一个上下文
- 推进AI研究
实际上，选择方法根据设置而变化，例如基于概率的抽奖。下一个标记的概率不是内容真实的概率。正常生成不会更新每个答案的学习权重。
例如：逐步续写“AI的”
出于解释目的，流程将是在“AI's”中添加“research”，在“AI's Research”中添加“wo”，然后计算下一个候选者。图中的候选人和概率都是虚构的。实际的标记化和候选标记将根据模型和上下文而有所不同。
当心
下一个标记的概率不是内容真实的概率。即使是自然句子也可能会出现错误，因此请根据材料和计算结果进行检查。
常规文字生成不会每次回答都更新已训练权重；追加训练是独立流程。
推理实现可以重用现有的计算，例如 KV 缓存中的计算。该图显示了信息的流动，并不意味着每次都从头开始重新计算一切。
放到AI Inc.中思考
向客户提供服务时，生成文本所需的推理也会消耗算力。请区分完成模型的训练费用，与持续使用所需的供给和费用。
AI研究前沿10
核对于2026年10月5日。通过近期学术论文，了解9个研究方向及其成果与局限。
确认日期 · 范围：2026年5至9月的10篇论文
从制定答案的能力到完成长期任务的能力。了解最近论文的研究方向，包括如何使用计算、证据的可靠性以及评估和权威的设计。
我应该如何阅读最新的研究趋势？
通过2026年5至9月的10篇论文介绍9个方向：推理、智能体、记忆、效率、音频、世界模型、可靠性、评估与权限设计。
我应该如何阅读最新的研究趋势？
通过2026年5至9月的10篇论文介绍9个方向：推理、智能体、记忆、效率、音频、世界模型、可靠性、评估与权限设计。
通过2026年5至9月的10篇论文介绍9个方向：推理、智能体、记忆、效率、音频、世界模型、可靠性、评估与权限设计。
阅读我们的更改以及比较
检查模型、数据、计算预算和评估标准。不同论文中得到的数值如果条件不同，不能直接排名。每个部分分别描述方法和观察到的结果。
发布日期和采用/验证是分开的。
预印本是指在学术期刊或会议经过同行评审之前就可以发表的手稿。对于已被会议批准的论文，将会注明。仅采用或高分并不能证实在所有应用程序中的有效性。
| 看什么 | 确认 |
|---|---|
| 主题 | 测试使用了什么模型、语言、数据和任务 |
| 比较条件 | 计算量、试验次数、设备有比较过吗？ |
| 指数 | 是一次回答正确，还是多个候选中至少一个正确 |
| 再现性 | 能否确认方法、代码、数据、论文版本？ |
| 限制 | 哪些条件尚未验证或需要哪些额外验证？ |
例如：即使正确答案率很高，尝试次数也不同
一次回答正确率，与生成多个候选后至少一个正确的比例并不相同。阅读结果前，应核对任务、模型、候选数及计算预算。数值高不代表单次回答更可靠。
当心
本页依据所选论文解说，不代表领域共识或现实产品最新排名。请区分研究成果与游戏实现。
推理：不只是更多的计算，而是不同的思维方式
在做出回应时会产生许多候选者的研究中，挑战在于重复相同的错误。 PTTS 首先建立不同的解决方案策略，并根据该策略创建每个候选方案。
推理：不只是更多的计算，而是不同的思维方式
在做出回应时会产生许多候选者的研究中，挑战在于重复相同的错误。 PTTS 首先建立不同的解决方案策略，并根据该策略创建每个候选方案。
在做出回应时会产生许多候选者的研究中，挑战在于重复相同的错误。 PTTS 首先建立不同的解决方案策略，并根据该策略创建每个候选方案。
在增加候选数量之前，将解决方案策略分开
首先准备多个策略，并根据每个策略创建候选答案。
左：首先创建不同的策略
计划您将如何尝试解决同样的问题。在 PTTS 中，政策制定者同时考虑多个候选药物，旨在减少对类似试验的集中度。
中：按方针生成候选
执行者使用问题和每个策略创建候选答案。准备政策和完成具体答案是两个不同的角色。
右：衡量考生是否有正确答案
评估候选答案并衡量至少一个答案是否正确。考虑包含正确答案以及选择它并将其返回给用户的能力。
pass@k检查k个候选中是否至少有一个正确，不同于单次回答正确率，也不表示能够选出正确候选。
卡盒、文件和纸张都是说明比喻。颜色表示方针差异，不是性能排名；纸张和人物数量不代表论文试验次数或模型数。右侧场景也不保证能自动选出正确答案。
如何在训练模型中使用计算
在推理过程中使用额外计算的方法称为测试时间缩放。在PTTS，我们也在考虑如何将政策制定者和执行者分开，用强化学习来调整政策制定者。
报纸报道了什么
在Qwen3的1.7B、4B模型和5项数学评估中，研究报告pass@64优于独立重复生成。该指标检查64个候选中是否至少有一个正确。[R01]
结果范围和剩余挑战
能够从多个候选者中可靠地选择正确答案并通过单个答案实现相同的改进是其他挑战。您还需要根据您的目的检查非数学作业、等待时间和费用。
例如：四个候选中只有一个正确时
假设一道题生成4个候选，仅1个正确，pass@4便把该题计为成功，再统计多题成功比例。它不表示“四次对一次”，也不表示能可靠选出正确答案。此例仅供说明，并非论文成绩。
放到AI Inc.中思考
这导致决策不仅考虑研究绩效，还考虑交付给客户所需的推理资源。这并不意味着 PTTS 可以在游戏中单独配置。
智能体：从中间操作，走向成品评估
即使你可以搜索和使用工具，也并不一定意味着你可以完成一项漫长的任务。 KNOWS 评估收集信息、组织信息以及创建文档和其他可交付成果的网络工作。
智能体：从中间操作，走向成品评估
即使你可以搜索和使用工具，也并不一定意味着你可以完成一项漫长的任务。 KNOWS 评估收集信息、组织信息以及创建文档和其他可交付成果的网络工作。
即使你可以搜索和使用工具，也并不一定意味着你可以完成一项漫长的任务。 KNOWS 评估收集信息、组织信息以及创建文档和其他可交付成果的网络工作。
从中间操作到可用结果
收集信息之后是对成品的组织和确认。
左：收集必要的信息
搜索和检索材料是工作的一部分。即使找到了信息，也并不一定意味着所请求的工作已经完成。
中：整理并形成成果
比较您收集的信息并将其编译成所需的格式，例如文档、表格或幻灯片。不仅仅是内容，还有布局和结构。
右：成品与要求的比较
验证您是否具有所需的信息以及是否已按指定配置和显示这些信息。分别评估中间操作和最终可用结果。
“成功取得资料”与“完成请求”是不同结果。检查最终成果，也更容易找出停在哪个步骤。
这是已被案头工作取代的说明性插图。这不是实际 KNOWS 屏幕或评估任务的再现，右侧的场景也不是保证成功的描述。这与游戏提供过程不同。
不仅模型很重要，工具的交付方式也很重要。
即使使用相同的模型，结果也会根据工具的操作范围和机制而有所不同。方向是分别衡量中间操作是否成功以及成品是否可以使用。
报纸报道了什么
研究设置了110项复杂任务；受测智能体中最佳完全成功率仍低于3%。即使部分完成，视觉操作失败也可能使成果无法使用。[R02]
结果范围和剩余挑战
这是特定挑战和实验时系统的结果，并不是所有代理的成功率。由于我们使用的是实际网站，因此评价也会受到屏幕和信息变化的影响。
例如：即使可以搜索，对比材料也不完整。
例如要求“调查三个候选，并制作带出处的比较资料”。取得三份信息后，若比较条件缺失或文字重叠无法阅读，仍不算完成。应检查信息获取和可用成品。这是说明示例，并非复现论文任务。
放到AI Inc.中思考
这让您有理由检查模型的性能以及客户实际收到的交付结果。我们还看一下出版后供应和提前供应的结果。
长上下文：从保留全文到利用记忆进行设计
为了处理长文本，需要平衡引用信息的能力与计算和记忆的负担。 ARMT 研究将反复更新的联想记忆纳入模型中。
长上下文：从保留全文到利用记忆进行设计
为了处理长文本，需要平衡引用信息的能力与计算和记忆的负担。 ARMT 研究将反复更新的联想记忆纳入模型中。
为了处理长文本，需要平衡引用信息的能力与计算和记忆的负担。 ARMT 研究将反复更新的联想记忆纳入模型中。
使用休息和记忆来阅读长文本
上一节中获得的信息将延续到下一节。
左：读取部分输入
ARMT将长输入分段并依次处理，每段内使用该范围的信息。
中：更新内部记忆
它使用所读取内容的表示来更新模型内的关联内存。持卡人是对其工作方式的隐喻。
右：在下一个分隔符中使用
当处理下一个输入时，它还引用从上一个分隔符继承的内存。重复此过程来处理长句子。
保留整个文本和将信息传递到内存之间是有区别的。还要检查最大长度和正确使用必要信息的能力。
资料和卡盒是说明比喻，并非论文内部结构图。实际记忆由数值表示，不同于文字摘要或完整保存原文；也不表示应用会永久保存对话，或代表游戏实现。
分段读取并保留内部存储器
ARMT把输入分段顺序处理，每段更新联想记忆，下一段也会参考该记忆。记忆是模型内部的数值表示，不是完整保存原文，也不同于文字摘要。
不仅仅是长度的上限，还有是否真的可以使用？
该研究探索适应长输入的追加训练及记忆层选择。可输入的长度与正确利用远处信息的能力，应分别看待。
报纸报道了什么
我们为每个字段创建长文本数据，并评估超出原始模型上下文上限的输入以及比训练期间更长的输入。即使在原始长度范围内，我们也会报告在保持性能的同时减少计算量的结果。[R03]
结果范围和剩余挑战
实验目标是一个相对较小的模型，最多有1B个参数。仅从这个结果无法判断在更大的模型或不同的领域是否能获得相同的效果。
例如：连接长报告的前半部分和后半部分
考虑一份包含上半年计划条件和下半年结果的报告。在阅读后半部分时，如果你能利用上一节遗留下来的信息，你就可以根据两者进行处理。然而，有必要评估所有条件是否都能准确地结转。这是如何使用它的示例，本文不保证本报告成功。
放到AI Inc.中思考
这将帮助您思考仅提高性能的研究与使用更少资源完成相同工作的研究之间的区别。它不会将游戏模型规模或资源值转换为论文中的值。
效率：首先创建候选人并一次性验证所有候选人。
推测性解码是一种使用轻计算创建未来令牌候选并使用目标模型验证它们的方法。最近的研究改进了每个请求的处理时间表以及生成候选人的模型的学习。
效率：首先创建候选人并一次性验证所有候选人。
推测性解码是一种使用轻计算创建未来令牌候选并使用目标模型验证它们的方法。最近的研究改进了每个请求的处理时间表以及生成候选人的模型的学习。
推测性解码是一种使用轻计算创建未来令牌候选并使用目标模型验证它们的方法。最近的研究改进了每个请求的处理时间表以及生成候选人的模型的学习。
先做候选人，核对招聘范围
结合候选创建和验证来生成答案的延续。
左：创造未来的候选人
首先通过简单的计算创建多个候选令牌。 ASPIRE 通过缩小同一模型引用的上下文来创建候选对象。
中：用目标模型验证
ASPIRE用参考全文上下文的计算批量验证候选，检查从开头起能连续接受多少。
右：添加采用的延续
添加接受的第一部分和验证者确定的下一个令牌。我们将删除未被接受的剩余候选人并创建另一个候选人。
此处验证检查是否与目标模型的生成一致，不是核实事实。效率因可接受候选范围和处理条件而变化。
一张纸是一个令牌的隐喻，并不一定匹配一个单词。三个场景代表处理的阶段，数字的差异并不表示模型的数量。该图并未再现ASPIRE的异步处理、内部结构或游戏操作。
验证与事实核查不同
该过程检查是否与目标模型的生成相匹配并采用可接受的前导部分。 ASPIRE 使用相同的模型在某些上下文中生成候选者，然后使用所有上下文对其进行验证。另一种选择是使用更轻的不同模型。即使文本通过了验证，我们也会单独检查事实支持。
提高流程一致性和候选人质量
ASPIRE让不同请求各自安排候选生成与验证。另一项研究回收既有训练数据中被浪费的训练信号，使候选更容易通过验证。
结果范围和剩余挑战
吞吐量改善比例不能直接当作单次延迟或费用改善比例。需阅读模型、设备、并发数、候选接受率及生成方式等条件。
例如：四个候选中采用前两个时
假设您创建了四个候选令牌，并且前两个在验证期间被接受。将这两个标记和验证者确定的下一个标记添加到延续中，并删除剩余的候选标记。在某些情况下，我们可能必须重新创建所有候选项。数字 4 和 2 用于解释目的，并不表示纸张的固定设置或性能。
放到AI Inc.中思考
应对供应短缺的措施包括增加设备和提高效率。论文的加速率并不直接转化为游戏的供给量。
多模态：思考之前，是否真正利用声音依据？
即使接收音频的人工智能也可能使用文本中的线索而不是使用实际的音频信息进行响应。 PG-TTRL 在推理过程中考虑强化学习，重点是使用可靠的证据。
多模态：思考之前，是否真正利用声音依据？
即使接收音频的人工智能也可能使用文本中的线索而不是使用实际的音频信息进行响应。 PG-TTRL 在推理过程中考虑强化学习，重点是使用可靠的证据。
即使接收音频的人工智能也可能使用文本中的线索而不是使用实际的音频信息进行响应。 PG-TTRL 在推理过程中考虑强化学习，重点是使用可靠的证据。
阅读问题并根据声音进行解答
即使问题相同，答案也会根据您实际听到的声音而变化。
左：仅使用文字线索回答
这是您根据问题的措辞或常见答案做出推论的时候。即使您可以输入声音，也不能保证您的答案将基于真实的声音。
右：声音信息也可以作为证据
将您听到的声音和声音的特征与问题结合起来。该研究将比较人们可以引用可靠信息的条件和限制可靠信息的条件，并检查它对答案的影响有多大。
我们确保对输入做出响应，在输入的基础上进行构建，并得出正确的答案。即使答案取决于声音，也不一定是正确答案。
耳机是声音信息使用差异的隐喻。文中有限参考了内部音频信息进行了对比，图中并没有再现摘下耳机的操作。并不表示PG-TTRL的学习过程或游戏的操作。
响应输入并基于输入
该研究分析模型推理对声音的依赖，并纳入训练评价。仅延长文字思考，未必能解决听辨薄弱的问题。
报纸报道了什么
研究评估了2个音频语言模型及MMAR、MMAU两项音频推理基准，报告了相较基础模型和常规推理时强化学习的改善。[R06]
结果范围和剩余挑战
这是实际更新模型的研究方法，并不表示普通聊天会自动追加训练，也未证明对所有声音、语言、图像或视频都有效。
例如：对于同一问题听到不同的声音
假设同问“听到了什么声音”，分别提供雨声与掌声。问题相同，但答案需要实际声音差异。这是说明例子，并非论文任务。论文比较限制内部音频参照与正常条件，研究声音对回答的影响。
放到AI Inc.中思考
不要仅根据市场名称来判断应用程序；它将帮助您考虑客户需要的输入和评估条件。请区分研究中使用的学习方法和游戏的操作。
世界模型：从预测下一步到长期发展的稳定性
世界模型是用于预测环境状态和行动结果的模型。即使您可以准确预测下一步，随着时间的推移重复您的预测也可能会偏离现实。
世界模型：从预测下一步到长期发展的稳定性
世界模型是用于预测环境状态和行动结果的模型。即使您可以准确预测下一步，随着时间的推移重复您的预测也可能会偏离现实。
世界模型是用于预测环境状态和行动结果的模型。即使您可以准确预测下一步，随着时间的推移重复您的预测也可能会偏离现实。
预测前进一步并重复下一步
将预测状态作为下一次输入，形成较长的状态序列。
左：思考你当前的状态和行动
如果是模型车，线索就是它当前的位置和方向以及如何移动它。世界模型根据状态和行动预测下一个状态。
中：从预测结果继续预测
使用预测状态作为下一个输入以进一步进行。这种重复的预测称为推出。
右图：查看长时间重复时的分布
检查各种状态出现的频率、偏向与范围，即状态分布。短期预测准确，不保证长期展开仍能保持这种性质。
单步预测的准确性、长期展开的分布与规划是否有用，是不同的评估指标。分布稳定不保证每次预测或行动计划都正确。
模型车和板是说明性隐喻，并不代表论文中的控制问题或模型内部的分布。仅仅因为汽车在棋盘内并不能证明稳定性。多辆汽车代表了我们思考未来状态的场景，并没有展示精确的预测或人工智能公司如何运营城市。
测量重复预测的属性
该研究让模型内部状态保持一定分布，考察长时展开的稳定性。应分别评估短期准确性、长期分布和规划有效性。
报纸报道了什么
在12项控制任务中，即使反复进行长时预测，评估分布仍得到保持。但在短期预测精度上，另一些对比模型更好。[R07]
结果范围和剩余挑战
这取决于理论条件以及所习得的环境和行为的范围。仅仅因为分布稳定并不意味着我们可以准确地再现现实世界或制定良好的行动计划。
例如：模型车的下一步状态及其长期发展
根据模型车当前的位置、方向和运动来预测模型车的下一个状态。如果您再次使用该预测作为输入，则可以创建未来的开发，而不必每次都移动实际对象。但仅仅因为一步接近，并不能说能够维持多次操作后状态的偏向和扩散。对于长时间的预测，即使轨迹不同，也可以维持分布，并且不能仅根据位置的重合来做出判断。模型车仅用于说明目的，并不重现论文中的实验任务。
放到AI Inc.中思考
这导致了一种将短期预测与长期业务结果分开的思维方式。这并不意味着 AI Inc. 的城市和管理模拟是在这个世界模型上运行的。
可靠性：找出为什么你不知道，还要找出为什么即使你知道你还是错的
不正确的答案不仅仅发生在您不具备必要知识的情况下。这项研究探讨了问题中的单词和学到的联系如何相互竞争，从而导致选择错误的答案。
可靠性：找出为什么你不知道，还要找出为什么即使你知道你还是错的
不正确的答案不仅仅发生在您不具备必要知识的情况下。这项研究探讨了问题中的单词和学到的联系如何相互竞争，从而导致选择错误的答案。
不正确的答案不仅仅发生在您不具备必要知识的情况下。这项研究探讨了问题中的单词和学到的联系如何相互竞争，从而导致选择错误的答案。
删除一些问题并比较答案的变化
即使您有知识，问题的措辞和您从学习中建立的联系也可能会发生冲突。
分开要更换的部件和离开的条件
示例前提：A是钢琴家，B是画家，两人都住在东京。
- 原问题
- 住在东京的钢琴家是谁？
- 没有共享信息的问题
- 钢琴家是谁？
在此前提下，两种问题的答案都是人物A。去掉共同地点不会改变询问对象。研究观察输入词语改变时，回答和候选被选中程度如何变化。
该解释使用虚构人物，并不表明论文中的个别问题、实际答案或内部概率。仅仅因为答案发生了变化并不能确认它是错误的答案。
左：检查原始问题中单词的影响
获得原始答案后，我们检查哪些单词对选择可能答案的可能性有很大影响。蓝色的纸是问题的一部分的隐喻。
中：去掉所选词语后重新检查
去掉影响最大的部分，重新审视剩下的词的影响。这是基于输入干预而不是重新学习操作的比较。
右：比较候选人支持率的变化
答案和候选概率的变化被用作寻找错误答案的线索。即使答案是正确的，如果省略重要的单词，结果也可能会改变。
仅仅因为一个词有很大的影响并不意味着它是一个错误的答案。还有其他原因，比如缺乏知识。如果您遗漏了这些词，那么这种方法就不会给出正确的答案。
拿走那张纸的描述是一个改变问题措辞的隐喻。这不是直接重现论文中进行的内部干预或两步计算的图表。它并不代表 AI Inc. 的实际答案、概率、检测成功或操作。
改变部分问题，看到答案改变
通过删除具有强烈影响的关键字来观察输出的变化。方向是分离并检查知识的缺乏、知识的不正确、上下文的干扰以及推理的不稳定。
报纸报道了什么
我们已经报告了结果，其中更改关键字可以用作检测多个模型和任务中的错误答案的线索。然而，它也表明与其他检测信号的组合并不总是能改善。[R08]
结果范围和剩余挑战
主要方法使用令牌概率，旨在轻松应用于开放权重模型。尚未验证不允许访问内部信息的服务是否可以执行类似的检测或解释所有错误答案背后的机制。
例如：位置信息和识别人员的条件
在图中所示的句子示例中，即使删除了两个人共同的词“东京”，询问钢琴家的条件仍然存在。另一方面，如果您删除“钢琴家”并使用“谁住在东京？”，两个人都会匹配，并且问题的含义将会改变。您需要阅读结果中的更改以及更改的信息。此示例不是研究论文问题，也不是模型答案的实际测量。
放到AI Inc.中思考
这就导致了要专门阅读评估范围的原因。不要将单个错误答案检测的性能视为整个模型安全的保证。
评价：不仅看分数，更看评分体系
允许智能体改变工作环境的评估中，智能体可能不解题而影响分数。BenchShield从评估环境与执行记录检查奖励一致性。
评价：不仅看分数，更看评分体系
允许智能体改变工作环境的评估中，智能体可能不解题而影响分数。BenchShield从评估环境与执行记录检查奖励一致性。
允许智能体改变工作环境的评估中，智能体可能不解题而影响分数。BenchShield从评估环境与执行记录检查奖励一致性。
查看评估结果及评分依据
除了查看您获得了多少分之外，还检查评估了哪些可交付成果和投入。
左：查看上次评估结果
最终分数是比较结果的指南。但是，仅通过分数并不能告诉您分数是否是通过完成作业获得的，或者是否有其他变化影响了分数。
右：跟踪可交付成果、评分输入和记录
核对评分依据的成果或数值，以及中途修改。BenchShield借助评估框架证据，将实际操作与评分影响关联起来。
解决作业是一回事，但影响测量分数则是另一回事。我们还会查看证据来区分漏洞的存在和执行过程中使用的事实。
纸张和文件夹是一个说明性的隐喻，并不描述实际的评估屏幕或作弊程序。左侧并不总是意味着错误评估，右侧并不总是意味着成功检测。 BenchShield需要评估平台的测量，并不是仅仅通过纸质比较就能重现的方法。
了解您获得高分的原因
检查可交付成果、用于评分的信息以及评分过程。这项研究区分了正确完成任务和利用评估漏洞的奖励黑客行为。
报纸报道了什么
研究针对3个智能体评估框架，结合静态检查与运行记录进行验证，并比较只看对话记录与使用框架侧证据的方法。[R09]
结果范围和剩余挑战
需要将测量纳入评估环境中，这并不是一种可以在所有环境中都适用的方法。对于具有不同评分过程和自由探索的任务，需要扩展设计。
例如：即使汇总表不完整，如果我获得高评分怎么办？
例如“制作汇总三项数值的表格”，缺少必要行却获得高分。除表格外，还应检查评分数据和中途修改，依据证据区分成品缺失、评分故障与评估信息变更。这是假设例子，并非论文任务或实际作弊。
放到AI Inc.中思考
理解高评分是在什么条件下得到的。决定发布与权限时，应同时阅读评估范围和必要的监督条件。
权威设计：成功工作与不过度操作的区别
即使您选择了方便的工具，该工具也可能超出请求所需的范围。 FORTIS 评估技能和工具选择以保护最小特权。
权威设计：成功工作与不过度操作的区别
即使您选择了方便的工具，该工具也可能超出请求所需的范围。 FORTIS 评估技能和工具选择以保护最小特权。
即使您选择了方便的工具，该工具也可能超出请求所需的范围。 FORTIS 评估技能和工具选择以保护最小特权。
必要的请求范围和过于宽泛的权限
即使可以满足相同的要求，可以处理的工具范围也不同。
左：只读目标材料
若要求“告诉我这个文件的要点”，应考虑读取目标文件是否足够；无需因此获得修改其他文件的权限。
右：其他材料也可以改变。
即使您可以阅读相同的材料，可以更改或删除其他文件的工具也具有更广泛的范围。检查一下您是否仅仅因为方便的解释而选择了过多的权限。
完成任务的能力以及选择适合需求的工具的能力是其他评估标准。检查您选择的技能以及您将在其中使用的工具。
文件和办公工具都是权限范围的隐喻。右侧的场景是可以进行多种操作的状态，并不是实际更改或删除的场景。 FORTIS 评估已配置技能层次结构的选择，并不代表实际服务中发生的操作。
即使对于例行请求，您是否也会选择过多的权力？
我们将研究选择是否不仅会因激进的指示而改变，还会因强调便利性的模糊要求和解释而改变。除了模型的成功率之外，它还衡量模型是否在所需的操作范围内。
报纸报道了什么
我们报告了一个问题，即在电子邮件、邮购和文件操作这三个领域选择了比必要的权限更广泛的技能和工具。这显示了与工作能否完成不同的评价轴。[R10]
结果范围和剩余挑战
这是一项使用人工构建的技能层次结构来评估选择的研究。它不包括在实际外部服务上运行工具或根据自然用户历史记录进行验证的结果。
例如：总结一个文件，需要什么
假设您有一个可以读取目标文件的工具和一个可以编辑/删除整个文件夹的工具。如果两者都可以读取该文件，那么能够完成任务并不足以判断您是否选择了适当的权限。分别确认请求所需的目标和操作范围。这不是显示实际服务设置屏幕或论文的单独分配的示例。
放到AI Inc.中思考
即使对于已发布的模型，也有关于允许多少行为的单独判断。将执行权限和监督与模型性能分开检查。
参考10主题
直接链接到原文。该日期是 arXiv 首次发布/参考版本的日期（UTC）。
术语表35
简明解释AI基本术语和阅读论文所需词汇。
- 神经网络
- 通过学习到的权重与变换组合输入数值，得到预测等输出的模型机制。
- 隐藏层
- 位于输入与输出之间的层，变换前层表示后传给下一层。
- 权重与偏置
- 训练中调整的数值。权重改变输入的影响，偏置平移加总结果。
- 激活函数
- 变换节点计算结果的函数。ReLU等非线性变换用于处理复杂关系。
- 损失
- 用适合目标的方法衡量预测与训练目标之间的偏差。它不同于未知样本上的性能。
- 反向传播
- 从输出反向追踪计算，求出各参数对损失影响的梯度。
- 学习率
- 更新参数的一步大小。越大不代表改善越快。
- Self-Attention
- 计算同一序列各位置的关联权重，再加权混合Value信息。
- 因果面具
- 文字生成时，限制各位置参照未来token。
- 测试时扩展
- 一种通过将计算分配给学习后回答时的尝试次数和思考步骤来提高性能的方法。比较成本和等待时间。
- 推测性解码
- 一种生成方法，使用轻量计算创建先前的令牌候选，并使用目标模型进行验证。效果因模型、设备、候选人接受率等而异。
- KV缓存
- 保存Attention计算所需信息，以减少重复计算。长上下文时也会增加内存负担。
- 世界模型
- 预测环境状态和行动结果的模型。区分后续步骤的准确性和长期预测和计划的有效性。
- 奖励黑客
- 利用评分和奖励系统的漏洞获得高分，却没有达到最初的目的。
- 预印本
- 甚至可以在学术期刊和会议上进行同行评审之前发表的论文手稿。发表与同行评审和采用之间是有区别的。
- AI
- 人工智能。利用计算机进行识别、预测、判断等技术的广义术语，还包括机器学习和生成式人工智能。
- 机器学习（ML）
- 从数据学习规律，用于新输入预测、分类或生成的方法。
- 深度学习
- 使用多层神经网络的机器学习方法，也称深度学习。
- 人工智能一代
- 人工智能根据学习的规律生成句子、图像和音频等内容。
- LLM
- 大规模语言模型。从大量文本中学习的模型，用于文本生成、摘要、翻译等。
- Transformer
- 利用Attention计算处理信息之间关系的神经网络架构，被许多LLM采用。
- 参数
- 模型内部的数值在训练过程中需要调整。仅仅因为它们很多，你无法判断它们是否适合你的目的。
- token
- 模型处理句子等的小单位。它与字符或单词的数量不对应，并且划分根据模型和语言而变化。
- 上下文窗口
- 一个进程中可以引用的信息长度的上限。通常以token数量来表示，不同模型对上限的处理有所不同。
- 预训练
- 从广泛的数据中学习构成模型基础的规律的过程。
- 微调
- 使用附加数据调整经过训练的模型。它与写入指令和 RAG 的不同之处在于它更新参数。
- 提示词
- 传递给模型的指令和信息。它通常会改变答案的条件，而不是模型本身的额外学习。
- RAG
- 搜索扩展生成。如何搜索所需的材料并将找到的内容传递给模型以生成答案。
- 嵌入（Embedding）
- 将句子等的特征表示为数字序列的方法。您可以使用内容的邻近性进行搜索等。
- 幻觉
- 合理地生成没有事实或材料支持的内容。来源和数据需要核实。
- 基准
- 评估比较固定任务的表现。还需要在实际客户应用中进行评估。
- 多模态
- 处理文本、图像和音频等多种类型的信息。相应的输入和输出因模型而异。
- AI智能体
- 一个允许您选择实现目标的步骤并使用搜索、工具等继续工作的系统。决定您可以使用的工具和执行权限。
- 延迟
- 从一次请求到收到响应的等待时间。有时会分别测量首字延迟和全文完成时间。
- 吞吐量
- 单位时间可处理的请求或token数量，与单次请求延迟不同。
研究结果应结合目标模型、任务和实验条件来解读。请检查每个项目的参考资料、结果范围以及剩余问题。
返回帮助页首