學習AI
從AI與LLM基礎，到當下的前沿研究。
分類: 3 · 項目: 30 · 術語: 35
在「學習AI」中搜尋。用空格分隔詞語，可尋找同時包含這些詞語的項目。
從感興趣的地方開始
全部學習條目
項目: 30 · 術語: 35
AI與LLM基礎14
即使初次接觸AI，也能理解研究、訓練和服務。從身邊的例子認識真實AI的基礎。
本分類介紹真實AI基礎。遊戲中的效能、費用和天數是經營玩法的表達；相關操作可從各項“相關閱讀”檢視。
從圖解開始
AI、機器學習和生成式AI有什麼不同？
AI是計算機進行識別、預測和決策等技術的統稱。機器學習從資料中學習規律；生成式AI則生成文字、影象等內容。
AI、機器學習和生成式AI有什麼不同？
AI是計算機進行識別、預測和決策等技術的統稱。機器學習從資料中學習規律；生成式AI則生成文字、影象等內容。
AI是計算機進行識別、預測和決策等技術的統稱。機器學習從資料中學習規律；生成式AI則生成文字、影象等內容。
AI、機器學習與生成式AI
即使是同一封電子郵件，分類和創建回覆的角色也是不同的。
左：依規則排序
根據預定條件對電子郵件進行排序。除了從數據中學習之外，人工智慧還有其他機制。
中：從樣本學習分類
使用分類電子郵件等來了解規律並對新電子郵件進行分類。這是機器學習的一個例子。
右：建立新回复
使用學習到的規律產生與指令相符的句子。這是產生人工智慧的一個例子。
機器學習和生成式人工智慧都包含在人工智慧中。機器學習是一種學習方法，生成式人工智慧是創建內容的人工智慧的名稱。像LLM這樣的生成式人工智慧是使用機器學習創建的。
這是已被桌子和材料取代的說明性插圖。
深度學習是機器學習的一種
將神經網路計算組合成多層的方法，是LLM等的基礎。並非所有AI都使用深度學習。
表格可左右滾動。
| 字 | 意義 | 例子 |
|---|---|---|
| AI | 進行智力工作的整個藝術。它還包括根據既定規則運行的機制。 | 遊戲對手、影象識別 |
| 機器學習（ML） | 使用範例資料了解預測和分類的規律。 | 垃圾郵件分類、銷售預測 |
| 人工智慧世代 | 使用學到的規律產生新內容。 | 起草文字、生成圖像和音頻 |
例如：相同的電子郵件，但角色不同
“判斷是否垃圾郵件”屬於分類，“撰寫回復”屬於生成。AI企業應按客戶任務選擇技術。
放到AI Inc.中思考
選擇研究領域時，不僅要考慮技術的名稱，還要考慮您希望下一個模型能夠完成什麼樣的工作。
什麼是LLM？它如何生成文字？
LLM是“大語言模型”的縮寫。它從大量文字等資料學習語言規律，用於生成、摘要和翻譯等任務。
什麼是LLM？它如何生成文字？
LLM是“大語言模型”的縮寫。它從大量文字等資料學習語言規律，用於生成、摘要和翻譯等任務。
LLM是“大語言模型”的縮寫。它從大量文字等資料學習語言規律，用於生成、摘要和翻譯等任務。
LLM：計算後續內容，生成文字
從上下文中計算下一個候選並繼續。
接收上下文
使用說明、問題和先前產生的內容。
計算下一個建議
計算下一個token的候選與機率。
寫一個句子的延續
將新生成內容也納入上下文，反覆計算下一個token。
一張紙是一個令牌的隱喻。標記是不一定與單字相符的小文字單元。文本的自然性和事實的正確性之間存在差異。
這是已被桌子和材料取代的說明性插圖。
計算繼續建議
它將文字劃分為小單元的標記，並根據輸入和迄今為止生成的內容計算下一個標記候選者和機率。重複此過程以建立答案。
模型和聊天應用程式不同
模型是根據輸入計算輸出的部分。聊天應用程式使用結合了對話記錄、搜尋、文件、工具等的模型。哪些功能可用也取決於應用程式。
例如：續寫“因為下雨，……”
“帶傘”“推遲出門”等都是適合上下文的候選。LLM也會在長文中計算類似續寫；實際處理單位未必是單詞。
當心
即使你能寫出自然的句子，也不一定意味著內容是正確的。你需要回顧所學的知識、分發的材料以及搜尋資訊的範圍。
放到AI Inc.中思考
完成的模型和我們提供給客戶的 API 產品是不同的階段。創建模型後，會導致調整使用、定價和供應的原因。
什麼是token與上下文視窗？
token是模型處理文字等資訊的小單位。上下文視窗表示單次處理可參照的資訊長度上限。
什麼是token與上下文視窗？
token是模型處理文字等資訊的小單位。上下文視窗表示單次處理可參照的資訊長度上限。
token是模型處理文字等資訊的小單位。上下文視窗表示單次處理可參照的資訊長度上限。
上下文：本次使用的資訊
將桌上的材料與架子上存放的材料分開。
桌上：這次給的信息
應用程式傳遞給此流程的說明、問題、對話歷史記錄和資料將包含在上下文中。
貨架內：尚未移交的物資
即使您保存了材料或過去的對話，除非這次提供給您，否則您可能無法參考它們。
上下文視窗是可參照資訊長度的上限，通常按token計。提供資料不是追加訓練，能放入長資料也不代表能準確利用全部內容。
這是已被桌子和材料取代的說明性插圖。
字元數/單字數不匹配
token可能是單詞、部分單詞或字元，分法因模型和語言而異。不能總把一個日文字元視為一個token。
對話和材料也可以作為參考資訊。
應用提供的指令、對話歷史和資料都會進入上下文。輸入輸出上限因模型而異；能放入長資料，不保證能準確利用全部內容。
例如：在桌上鋪展材料的圖像
上下文像為本次回答攤在桌上的資料。放資料到桌上，與對模型追加訓練是不同的事。
放到AI Inc.中思考
隨著處理的資訊量的增加，現實世界服務中的計算和記憶體負擔也將改變。在遊戲中，檢查要提供給客戶的推理需求和供應。
參數越多，模型就越好嗎？
參數是訓練中調整的模型內部數值，可提示模型規模，但數量多不代表適合用途。
參數越多，模型就越好嗎？
參數是訓練中調整的模型內部數值，可提示模型規模，但數量多不代表適合用途。
參數是訓練中調整的模型內部數值，可提示模型規模，但數量多不代表適合用途。
模型選擇：規模、用途、成本
不僅要比較產品的數量，還要比較使用它們的工作條件。
左：學習時需要調整的數值
參數是模型內部數值，數量多不代表適合用途。
中：在實際用途上驗證
用真實的問題和材料對其進行測試，以確保其滿足您所需的品質。
右：同時比較資源與成本
比較滿足品質要求的候選人的速度、成本、計算和記憶體負擔。
旋鈕比喻內部數值調整。參數量不是已知事實數量，資料、設計和訓練方法也影響結果。
這是已被桌子和材料取代的說明性插圖。
學習時需要調整的數值
指神經網路權重等數值，從大量樣本調整以得到適合目標的輸出。參數量不是已知事實數量。
一起查看效能、資源和使用情況
除了規模之外，數據品質、設計和學習方法也會影響結果。大型模型通常需要更多的計算資源和記憶體，但配置和最佳化也各不相同。我們在實際使用上比較一下。
例如：簡短文字分類與複雜寫作
輕量級模型可能足以對短查詢進行分類。更複雜的寫作可能需要更高層次的能力。比較滿足您所需品質的模型的速度和成本。
放到AI Inc.中思考
設計模型時，不僅要考慮預測效能，還要考慮訓練成本和推理負荷/速度。我們將把擴大規模的決定與繼續經營業務的決定結合起來。
學習和推理有什麼區別？
學習是調整模型內部值的過程，推理是使用訓練好的模型計算答案的過程。還需要計算資源來提供使用者答案。
學習和推理有什麼區別？
學習是調整模型內部值的過程，推理是使用訓練好的模型計算答案的過程。還需要計算資源來提供使用者答案。
學習是調整模型內部值的過程，推理是使用訓練好的模型計算答案的過程。還需要計算資源來提供使用者答案。
學習和推理
建立和使用模型時都需要計算。
學習：調整模型
使用範例資料調整模型內的數字。
推理：使用經過訓練的模型
輸入新問題等，計算答案。
一般推理不會更新模型內部參數。儲存對話與進行追加訓練也是兩回事。
這是已被桌子和材料取代的說明性插圖。
訓練是根據範例調整模型所花費的時間
將範例的輸出與學習目標進行比較並調整內部數字。如果將創建模型的過程和使用創建的模型的過程分開，將更容易理解資源和成本之間的差異。
推理是回答當前請求的時候。
使用學習到的數字根據輸入計算輸出。正常的推理並不是每次回答時都重新學習內在數字的過程。將對話和材料作為當前輸入與額外學習是分開的。
表格可左右滾動。
| 要檢查的事情 | 學習 | 推理 |
|---|---|---|
| 目的 | 從樣本調整模型參數 | 計算新輸入的輸出 |
| 輸入範例 | 教育文本、問題和答案的範例 | 用戶問題、參考資料 |
| 內部號碼 | 透過學習更新 | 按正常推理未更新 |
| 如何利用資源 | 創建和改進模型的計算 | 處理客戶請求的計算 |
例如：即使創建後，也有營運成本
即使您完成了回答查詢的模型，您仍然需要在每次使用者提出問題時進行推斷。隨著更多人同時使用，所需的輸送能力也隨之增加。
當心
儲存對話並使用輸入以供將來學習是一種服務策略，與在當前答案期間更新參數不同。
放到AI Inc.中思考
用於學習和推理的計算資源是不同的角色。即使學習完成，如果分配給推理不足，也會出現客戶供應不足的情況。
什麼是預訓練與微調？
預訓練是從廣泛的資料中學習基本規律的過程，微調是用附加資料調整訓練好的模型的過程。
什麼是預訓練與微調？
預訓練是從廣泛的資料中學習基本規律的過程，微調是用附加資料調整訓練好的模型的過程。
預訓練是從廣泛的資料中學習基本規律的過程，微調是用附加資料調整訓練好的模型的過程。
預訓練與追加訓練
建立一個基礎並調整它以適合您將使用它的工作。
左：透過廣泛的範例奠定基礎
使用許多句子學習基本規則。這就是調整模型內部數值的過程。
右：根據適合您的目的的範例進行調整
使用經過訓練的模型作為起點，並透過適合您的工作和輸出格式的範例進行額外學習。微調更新內部值。
透過 RAG 提示或傳遞材料與額外學習是分開的。透過使用未用於學習的範例來檢查學習是否有所改善。
這是已被桌子和材料取代的說明性插圖。
透過預訓練打下基礎
許多語言模型透過解決大量任務來學習單字的規律性，例如預測句子的延續。透過使用預先訓練的基礎，無需每次都從頭開始創建模型。
透過追加訓練適應用途
問題和所需答案的範例使說明更易於遵循或針對特定任務和輸出格式進行客製化。學習回應指示和使用人們的評價包含在預學習之後的後培訓中。
例如：統一查詢分類格式
可以考慮進行額外的學習，以便更容易使用查詢語句和「計費」、「合約」和「操作」的分類範例以固定格式輸出。檢查是否使用未用於學習的範例進行了改進。
當心
附加學習與 RAG 不同，RAG 是搜尋資料。它不是確保記住新事實的一種選擇方法。
放到AI Inc.中思考
使用父模型進行衍生開發引發了利用現有基礎的想法。請閱讀目標確認畫面，以了解遊戲中要延續的效能和成本條件。
我應該增加訓練資料量嗎？
資料不只要多，還需準確、多樣並適合用途。只擅長訓練例子、面對新例子很弱，稱為過擬合。
我應該增加訓練資料量嗎？
資料不只要多，還需準確、多樣並適合用途。只擅長訓練例子、面對新例子很弱，稱為過擬合。
資料不只要多，還需準確、多樣並適合用途。只擅長訓練例子、面對新例子很弱，稱為過擬合。
學習數據：數量、品質、如何檢查
不要只是添加更多範例，而是清理它們並與其他範例進行檢查。
數量：只有類似的例子嗎？
即使增加範例數量，如果存在大量重疊或偏差，也無法完全涵蓋使用它的情況。
品質：準備符合使用情況的範例
檢查錯誤和重複，並準備大量接近實際問題、語言和受眾的範例。
評估：檢查未使用的範例
將學習部分、調整驗證部分、最終測驗部分分開。讓我們看一下研究中未使用的範例。
過度擬合是指系統僅在訓練期間看到的範例較強而在新範例中較弱的狀態。我們關注數據的數量、品質以及數據與預期用途的接近程度。
這是已被桌子和材料取代的說明性插圖。
建立一個與其使用情況類似的範例
錯誤、重複和有偏見的數據也會影響您的結果。確定您期望的問題類型、語言和用戶，並準備代表實際使用的範例。
單獨的學習和評量數據
如果你只評估學習過程中記住的例子，將很難判斷你是否可以處理新的輸入。我們也區分用於調整的驗證資料和用於最終確認的測試資料。
例如：僅透過簡短的問題進行學習
即使您擅長簡短、固定的短語，但您可能不擅長長篇大論或具有不同措辭的問題。我們將檢查未使用的數據，包括使用者實際編寫的範例。
放到AI Inc.中思考
資料獲許、整理和選入訓練是不同階段。理解現實資料質量，也有助於理解遊戲中的整理目的。
寫提示詞也是訓練嗎？
提示是您傳遞給模型的說明或訊息。通常，答案的條件會改變，這與更新模型參數的學習不同。
寫提示詞也是訓練嗎？
提示是您傳遞給模型的說明或訊息。通常，答案的條件會改變，這與更新模型參數的學習不同。
提示是您傳遞給模型的說明或訊息。通常，答案的條件會改變，這與更新模型參數的學習不同。
提示詞：目的、資料與輸出格式
告訴他們您希望他們做什麼、使用什麼以及如何回應。
目的：告訴我們您想要什麼
具體說明任務，例如“總結會議記錄”。
材料：傳達使用範圍
給他們你希望他們參考的會議記錄並指出會議的範圍，並說：“我只會使用這些材料。”
格式：告訴答案的格式
指定“三條要點列出決定事項”等輸出形式。
傳遞指令和材料通常與模型的進一步學習是分開的。即使說明很具體，錯誤仍然會發生，因此請與材料交叉檢查你的答案。
這是已被桌子和材料取代的說明性插圖。
傳達目的、材料和輸出格式
詳細寫下您希望他們做什麼、您希望他們使用哪些資訊以及您希望他們如何回應。如有必要，也可以傳遞所需輸出的範例。
使用您提到的訊息繼續對話。
您可以使用過去的語句的原因是因為應用程式有一種將它們傳遞給模型的機制。僅僅能夠在對話期間使用新資訊並不意味著模型已經永久學習。
例如：把“總結一下”說具體
例如“僅用以下會議記錄，把決定事項列成三點，不要補充資料以外內容”，說明目標、範圍和格式。
當心
詳細的說明可能會有所幫助，但不能保證沒有錯誤。讓我們根據實際材料檢查輸出。
放到AI Inc.中思考
遊戲內模型設計和啟動訓練，不同於現實聊天中撰寫指令。僅儲存設計不會產生主訓練費用或進度。
什麼是RAG與嵌入？它們與追加訓練有什麼不同？
RAG檢索回答所需資料，並把找到的內容交給模型生成回答。檢索資料與模型參數分開管理。
什麼是RAG與嵌入？它們與追加訓練有什麼不同？
RAG檢索回答所需資料，並把找到的內容交給模型生成回答。檢索資料與模型參數分開管理。
RAG檢索回答所需資料，並把找到的內容交給模型生成回答。檢索資料與模型參數分開管理。
RAG：先找資料，再回答
將檢索到的材料傳遞給模型進行回答。
搜尋相關資料
從與問題相關的手冊等資料中，檢索所需內容。
連同問題一起傳遞
將找到的材料傳遞給模型作為答案中參考的資訊。
參考材料回答
模型生成答案。另請檢查材料是否支持您的答案。
交出材料和學習額外的模型是兩件不同的事情。 RAG 本身並不能保證準確性，因為材料可能是舊的，或者答案可能與材料不同。
這是已被桌子和材料取代的說明性插圖。
搜尋→遞交資料→答案
搜尋與您的問題相關的公司內部手冊，並將相關部分與您的問題一起傳遞。無需重新訓練整個模型來參考更新的文檔。
透過嵌入查詢相近內容
嵌入是一種將句子等特徵表達為數字序列的方法。您可以利用這種鄰近性進行搜尋。 RAG 還提供關鍵字搜尋以及兩者的組合。
資訊使用方式的差異
以查詢回應為例，我們將這次要傳遞的資訊和學習時要調整的數字分開。
左：提示詞
給出“回覆限制為兩句”等本次指令或資料。常規回答不會更新模型內部數值。
中：RAG
找到適合您問題的手冊，並傳遞必要的部分和說明。尋找和傳遞資料的過程本身並不會更新模型內部的數值。
右：微調
使用範例查詢和所需的分類調整訓練模型的內部數字。用於匹配「帳單/合約/操作」的分類格式。
三種方法可以結合使用。RAG會把檢索資料加入提示詞。應先明確需要更新的資料，還是調整輸出形式，再用實際問題驗證。
旋鈕比喻模型內部數值。三個場景比較不同方法，並非工作順序。
例如：營業時間變更時
搜尋具有新營業時間的資料並提供它們作為您答案的證據。如果您搜尋舊資料，甚至 RAG 也可能是舊的答案。
當心
材料可能會被混淆，或者可能會產生材料中沒有的資訊。評估搜尋結果和輸出，以確保參考文獻確實支持答案。
放到AI Inc.中思考
這是現實AI服務基礎知識，並非遊戲能單獨設定RAG。它有助於理解按用途選擇模型和資料。
什麼是幻覺？為何要核對回答？
幻覺指生成看似合理、卻無事實或資料支援的內容。自然文字中可能混入不存在的資訊或出處。
什麼是幻覺？為何要核對回答？
幻覺指生成看似合理、卻無事實或資料支援的內容。自然文字中可能混入不存在的資訊或出處。
幻覺指生成看似合理、卻無事實或資料支援的內容。自然文字中可能混入不存在的資訊或出處。
幻覺與依據核查
即使答案很容易閱讀，也請打開原始程式碼並檢查。
左：閱讀自然答案
僅憑詳細解釋和具體文件名稱並不能確定是否有事實支持。
右：與原件核對
打開原始程式碼並檢查是否有部分支持您的答案，以及數字、日期和人員姓名是否匹配。
即使存在來源，也不一定支持答案。如果找不到任何證據，我們不會將其視為事實，而是檢查其他材料。
這是已被桌子和材料取代的說明性插圖。
文本的自然性和事實的正確性是兩件事。
LLM計算適合上下文的輸出。自信的措辭或詳細解釋並不證明有依據；是否使用搜尋或計算，也取決於應用機制。
透過實際打開來檢查證據
檢查文件的相關部分、數字、日期、人名等。即使存在引用，也不一定支持答案。如果您說不知道，我們會將其納入您的評估中。
例如：編造看似真實的資料名
詢問“這個功能的出處”時，AI可能編造不存在的說明書。即使資料名具體，也應確認原件是否存在。
當心
搜尋、RAG、額外學習等有助於減少錯誤，但不能保證正確性。即使您減少了生產中的變化，錯誤的答案也可能會被修復。
放到AI Inc.中思考
外部評價是一種材料，可以讓你閱讀已確認的內容以及確認的程度。僅高效能和評估結果並不能保證所有應用的安全性。
如果基準高的話，你們能照原樣提供嗎？
基準是比較固定任務表現的評估。需要單獨確認在客戶實際應用上是否有用。
如果基準高的話，你們能照原樣提供嗎？
基準是比較固定任務表現的評估。需要單獨確認在客戶實際應用上是否有用。
基準是比較固定任務表現的評估。需要單獨確認在客戶實際應用上是否有用。
評估：常見挑戰與實際應用
分別檢查常見問題和工作條件。
左：閱讀常見挑戰的結果
使用相同的問題和評分條件來比較模型的表現。閱讀結果表以檢查您嘗試的任務的範圍。
右：在您將要使用的工作條件下嘗試。
使用實際材料和問題來確認所需的數量和截止日期仍然存在。我們還將關注響應速度和成本。
僅憑基準結果不能得出其對任何工作有用的結論。我們首先確定適合客戶應用的條件，然後在更改模型和材料後進行檢查。
紙張和資料夾是描述現實應用程式中常見分配結果和確認的隱喻。左右不是流程的順序，也不能保證成功、安全或交付。人員和物資的數量並不代表測試的數量。
在與實際工作類似的條件下進行測試
比較使用的語言、使用的材料、問題的長度、所需的格式等。包括你在學習中沒有使用過的例子或你無法回答的問題。
查看整個服務，而不僅僅是模型
我們不僅檢查正確答案率和理由，還檢查反應速度、成本、搜尋失敗、工具操作等。如果你只看平均分，你可能會忽略在某些條件下較弱的模型。
例如：即使你善於總結，你仍然可能會漏掉數字。
如果缺少發票金額或截止日期，即使易於閱讀的摘要也毫無用處。首先決定需要保留什麼，並在這些條件下進行評估。
當心
評價結果是在測試條件和時間點下的觀察結果。我們不保證未經評估的申請。即使對模型或材料進行更改後也要查看結果。
放到AI Inc.中思考
這就是為什麼模型評估、發布、早期提供、客戶遷移是分開評判的原因。讓我們來看看測試結果以及實際的供應和銷售結果。
GPU、記憶體與響應速度有什麼關係？
LLM需要大量數值計算，因此使用擅長平行計算的GPU等裝置。算力、記憶體、併發量和回答長度都會影響服務。
GPU、記憶體與響應速度有什麼關係？
LLM需要大量數值計算，因此使用擅長平行計算的GPU等裝置。算力、記憶體、併發量和回答長度都會影響服務。
LLM需要大量數值計算，因此使用擅長平行計算的GPU等裝置。算力、記憶體、併發量和回答長度都會影響服務。
推論：延遲和吞吐量
區分單次回答速度與處理大量請求的能力。
左：1 件商品的等待時間
延遲是發出請求和接收回應之間的時間。有時我們會衡量第一個字母和答案的完成程度。
右：一定時間內的處理量
吞吐量是單位時間處理的請求數或token數。也應檢查併發使用者增加後的處理量和等待時間。
單人使用快，也應單獨檢查擁擠時的延遲和吞吐量。除GPU算力外，記憶體、併發量和回答長度也會影響結果。
這是已被桌子和材料取代的說明性插圖。
計算速度和可以儲存的資訊量是兩個不同的東西。
GPU負責計算，記憶體用於存放模型和處理中資訊。可類比桌面空間與工作速度的區別；此類比只解釋作用，不能用桌子數量推算實際效能。
同時觀察單次延遲與總體處理量
延遲是等待請求所需的時間，吞吐量是在一定時間內可以處理的數量。得到第一個字母所需的時間和得到整個長答案所需的時間也不同。透過測量同時使用情況和回答長度，可以更容易比較提供條件。
| 指數 | 查看 |
|---|---|
| 延遲 | 一次請求到收到響應的等待時間。應區分首字延遲和全文完成時間。 |
| 吞吐量 | 單位時間可處理的請求或token數量。 |
| 記憶 | 儲存模型和正在處理的資訊的能力。 |
| 成本 | 必要的設備和操作的成本。因模型和供應條件而異。 |
例如：單人很快，併發時卻要等待
單人使用速度無法說明100人同時使用時的服務能力。應同時測量延遲和單位時間處理量。
放到AI Inc.中思考
除GPU數量外，還應檢查交付與執行狀態，以及研究、訓練和推理分配。遊戲中的供給指標不是現實token數量或等待時間的換算。
什麼是多模態AI？
它是一種處理文字、圖像和音訊等多種類型資訊的人工智慧。 「模態」是指訊息的類型。可處理的輸入和輸出因模型而異。
什麼是多模態AI？
它是一種處理文字、圖像和音訊等多種類型資訊的人工智慧。 「模態」是指訊息的類型。可處理的輸入和輸出因模型而異。
它是一種處理文字、圖像和音訊等多種類型資訊的人工智慧。 「模態」是指訊息的類型。可處理的輸入和輸出因模型而異。
多模態：文字、影象與聲音
一起使用不同類型的信息。
左：以文字傳達
輸入問題、解釋和材料等文字。
中心：也使用影像
使用此功能的一種方法是將文字和圖像結合起來來解釋所顯示的內容。
右：也使用語音
在相容的模型上，您可以輸入您的聲音並提出有關內容的問題。
可處理的輸入和輸出因模型而異。僅僅因為您可以輸入圖像並不意味著您可以生成圖像。仔細檢查結果是否有暗影像或難以聽到的音訊。
這是已被桌子和材料取代的說明性插圖。
結合不同類型的信息
用文字解釋圖像中的內容，或聽音訊並回答圖像中的內容。可以輸入影像的模型不一定也可以產生影像。
結果會根據輸入條件而變化。
小文字、深色圖像和難以聽到的聲音都可能導致誤識別。即使您可以處理多個訊息，您也需要檢查每個訊息的準確性。
例如：附上照片並詢問指示
這是一種將機器照片與文字「這個按鈕是什麼？」進行配對的方法。如果照片中的按鈕不可讀，則模型可能會猜測錯誤。
放到AI Inc.中思考
在選擇研究領域或市場時，這將幫助您考慮客戶是否只需要文本，或者是否還需要圖像和音訊。請檢查遊戲內的說明以了解相容的功能。
AI智慧體與回答問題的AI有什麼不同？
AI智慧體會為目標選擇步驟，並使用搜尋或工具推進工作。回答文字的能力與採取行動的權限應分開看待。
AI智慧體與回答問題的AI有什麼不同？
AI智慧體會為目標選擇步驟，並使用搜尋或工具推進工作。回答文字的能力與採取行動的權限應分開看待。
AI智慧體會為目標選擇步驟，並使用搜尋或工具推進工作。回答文字的能力與採取行動的權限應分開看待。
應答 AI 和 AI 代理
將閱讀提案與使用工具分開。
左：接收書面提案
以書面提出候選人的日程安排等。僅閱讀該提案不會改變您的預訂或任何其他內容。
右：使用工具並檢查結果
根據目的選擇步驟，使用搜尋、計算等工具繼續工作，並檢查結果。
擁有連接的工具和擁有操作它的權限是兩件不同的事情。對於發送、購買、刪除等，確定許可範圍和批准條件。
這是已被桌子和材料取代的說明性插圖。
使用工具檢查結果
組合操作，例如搜尋所需資訊、計算和更新記錄。即使使用LLM，實際操作也是透過連接的工具和系統執行的。
決定允許執行的範圍
對於僅讀取等操作和發送、購買或刪除等操作的影響是不同的。我們將設計可以使用的工具、需要批准的操作、中途停止的方法以及執行的記錄。
例如：建議預約或確認預訂
如果您只是以書面形式提出可能的時間表，您的預訂將不會更改。一旦您連接到預訂系統並授予他們確認權限，他們就可以採取行動。
當心
僅靠高文本生成效能並不能保證安全地完成委託給您的任務。評估整個流程，包括工具。
放到AI Inc.中思考
模型發布和執行權限是單獨的決定。即使在遊戲中，在決定可接受行為的範圍之前，也要閱讀評估範圍、監督範圍和事故情況。
神經網路與Transformer6
從計算數字到寫句子。 6幅插圖，簡單易懂。
MODEL / MECHANISM
數字的計算是
直到成為一個句子。
先操作簡單計算，再進入文書處理機制。用六步探索看不見的模型內部。
計算是用於說明的小模型。此頁面的操作不會改變遊戲或儲存內容。
神經網路在計算什麼？
它將輸入值與學習確定的權重結合起來，並透過層將其轉換為預測。一旦了解了一項計算，您就可以了解如何查看更大的模型。
神經網路在計算什麼？
它將輸入值與學習確定的權重結合起來，並透過層將其轉換為預測。一旦了解了一項計算，您就可以了解如何查看更大的模型。
它將輸入值與學習確定的權重結合起來，並透過層將其轉換為預測。一旦了解了一項計算，您就可以了解如何查看更大的模型。
從輸入到預測。
左邊 3 個，中間 4 個，右邊 2 個。這是一本將數位層層組合起來的立體教材。
左：接收輸入
將照片、文字等轉換為模型可以處理的數字。
中心：合併和轉換
透過權重、偏置和活化函數，變換為下一層表示。
右：預測更改
建立適合工作的輸出。即使在這個階段，也不能保證正確的答案。
先跟隨下方示例計算一個節點，瞭解負權重和ReLU的作用。
表示層次排列的說明插圖。線條數量、顏色和粗細不代表真實模型的連線或權重。
輸入層：把資訊變為數值
傳遞模型可以計算的數字，例如照片的像素或文字的標記表示。如何建立輸入取決於所處理的資料。
隱藏層：重新組合數值
每個節點都會為前一層的數字添加一個權重，從而添加偏差。對結果應用活化函數並將其傳遞到下一層。隱藏層是輸入和輸出之間的層。
權重與偏置：訓練中調整的數值
權重決定各輸入的影響，負權重會產生減去該輸入的效果。偏置會平移加總結果。每個數值並非分別存放一條特定知識或事實。
活化函數：從簡單求和到複雜關係
ReLU把負值變為0，非負值原樣透過。單純疊加加權求和層仍能合併為同類單次計算；加入非線性變換後才能處理複雜關係。
輸出層：變為適合任務的形式
將最終的表達式轉換為分類點、預測值等。並非所有節點數都是機率。下面的範例也顯示了計算結果。
試著調整一個節點
輸入固定為1和2。改變權重與偏置，看看總和和輸出如何變化。
- 01 / 相乘再相加
1 × 0.6 ＋ 2 × (−0.2) ＋ 0.1
加權求和，再加偏置。
- 02 / 透過ReLU
max(0, 0.3)
若為負數，則為0。如果大於等於0，則原樣通過。
全部的 0.3→輸出 0.3
試試看：如果將權重 1 設定為 -0.6，則總和為 -0.9，輸出為 0。此輸出不是機率或正確答案率。
例如：計算一個節點
如果輸入為 1 和 2，權重為 0.6 和 -0.2，偏差為 0.1，則 1 x 0.6 + 2 x (-0.2) + 0.1 = 0.3。當透過 ReLU 時，它仍然是 0.3。讓我們移動權重並檢查總和變成負數時的輸出。
當心
“神經元”一詞受大腦啟發；這裡討論數值計算，並非直接復現大腦功能。
此圖用於說明輸入層、隱藏層與輸出層的概念。神經網路也有其他結構，例如用於影像的卷積網路和Transformer。
放到AI Inc.中思考
理解資料、模型設計與算力為何影響訓練結果和費用。本幫助的調整按鈕僅供學習機制，不會改變遊戲模型或存檔。
“學習”會改變哪些數值？
衡量預測與正確答案之間的差異，並逐漸調整權重以減少差異。讓我們將讀取答案與更新模型中的數字分開。
“學習”會改變哪些數值？
衡量預測與正確答案之間的差異，並逐漸調整權重以減少差異。讓我們將讀取答案與更新模型中的數字分開。
衡量預測與正確答案之間的差異，並逐漸調整權重以減少差異。讓我們將讀取答案與更新模型中的數字分開。
① 前向計算：先得到預測
使用當前權重從輸入到輸出進行計算。這就是前向傳播。現階段，我們尚未確定這是否接近正確答案。
② 計算損失：衡量與目標的偏差
用損失函數比較預測與訓練目標。下例使用差的平方。預測文字的下一個token時，可用正確token的預測機率計算交叉熵等損失；應依任務選擇衡量方式。
③ 反向追蹤：求出調整方向
反向傳播計算各權重發生微小變化時損失如何變化，這種變化率就是梯度。計算從輸出沿網路回到輸入端，用於調整多個層。
④ 更新：決定每一步的大小
使用梯度和學習率更新權重。學習率是步長的大小。如果太大，損失可能會增加。實際上，我們會用許多範例重複它，並檢查效能，甚至使用不用於學習的範例。
逐步更新權重
固定輸入值為2、目標值為1、學習率為0.1。模型只有一個權重：預測＝2×權重，損失＝（預測−1）²。
更新 0·預言 0.2·損失 0.64
此例梯度＝4×（2×權重−1）
新權重＝當前權重−學習率×梯度
0.1 − 0.1 × (−3.2) ＝ 0.42
首次更新減去負梯度，因此權重增大。
| 更新次數 | 權重 | 預言 | 損失 |
|---|---|---|---|
| 0 | 0.1 | 0.2 | 0.64 |
這是針對單一學習範例量身定制的教材。在實際的神經網路中，許多權重的梯度是透過反向傳播確定的，甚至對不用於學習的數據進行評估。
例如：讓預測 0.2 更接近正確答案 1
如果輸入為 2，權重為 0.1，則預測為 0.2。損失為 (0.2−1)²=0.64。在這個例子中，如果我們將學習率設為0.1，則第一次更新後的權重將為0.42，預測將為0.84，損失將為0.0256。您可以透過以下操作一一跟隨同一個範例中的變更。
當心
計算範例是一個只有一個權重和一個訓練範例的模型。它不會重現整個神經網路的反向傳播。
簡單例子中損失下降，不保證大模型訓練成功或答對未知問題。也應警惕只擅長訓練樣本的過擬合。
放到AI Inc.中思考
這就導致了將學習的完成、模型的主訓練以及完成後的評估分開的原因。在遊戲中，透過比較學習前的預測和完成後的結果來確定下一步的投資。
句子如何變成數字？
將文字劃分為標記並使用 ID 將它們轉換為數字序列。我們將把該數字表達式與周圍的信息結合起來。
句子如何變成數字？
將文字劃分為標記並使用 ID 將它們轉換為數字序列。我們將把該數字表達式與周圍的信息結合起來。
將文字劃分為標記並使用 ID 將它們轉換為數字序列。我們將把該數字表達式與周圍的信息結合起來。
token與ID：確定處理單位
分詞把文字拆成小單位，並對映到ID。ID只是標識，大小不代表語義強弱，也不必與日文單詞或字元一一對應。
嵌入：從ID到學習到的數值序列
依據ID從嵌入表取出向量，也就是一組數值。各分量未必具有「溫柔」「聰明」等固定且人類可讀的含義。
位置資訊：告知計算安排
“公司製造模型”與“模型製造公司”的順序不同。Transformer還使用位置或相對距離資訊，具體加入方式因設計而異。
語境表達：與周遭環境結合而變化
從第一個嵌入開始，每一層將其與周圍的表示結合。即使標記相同，中間的表達也會根據上下文而變化。僅僅替換 ID 並不能完成對文本的解釋。
從單字數字到數字序列
查看假設部門中的“公司模型”。使用 ID 作為線索，從嵌入表中提取向量。
表格可左右滾動。
| 位置 | token | ID | 3維嵌入 |
|---|---|---|---|
| 1 | 公司 | 120 | [0.2, −0.4, 0.7] |
| 2 | 主語 | 8 | [−0.1, 0.3, 0.2] |
| 3 | 模型 | 305 | [0.6, 0.1, −0.2] |
| 4 | 將 | 9 | [0.1, −0.2, 0.4] |
- 提取嵌入
準備token最初的數值表示。
- 也使用位置資訊
以適合設計的方式將詞序和距離傳達給計算。
- 捕捉周圍訊息
當它通過每一層時，表達式會根據上下文而變化。
ID305並不比ID120“意義更強”。分詞、維數和數值因模型而異；向量的每個分量也未必對應人類可讀的含義。
例如：結合周圍詞語理解“模型”
“評估AI模型”與“展示建築模型”的周圍詞語不同。計算會把周邊資訊融入token表示，以處理具體上下文。
當心
圖中的除法、ID和三分量向量是為了解釋而虛構的範例。實際的分區、維數和數量因模型而異。
放到AI Inc.中思考
在選擇上下文長度和資料使用時，有助於考慮要處理的資訊量以及使用該資訊的計算負擔。
Transformer由哪些部件組成？
透過Attention混合位置間資訊，再由Feed-Forward變換各位置表示，併疊加這種處理塊的神經網路設計。
Transformer由哪些部件組成？
透過Attention混合位置間資訊，再由Feed-Forward變換各位置表示，併疊加這種處理塊的神經網路設計。
透過Attention混合位置間資訊，再由Feed-Forward變換各位置表示，併疊加這種處理塊的神經網路設計。
混合關係。改變你的表情。
從上到下。卡片代表一個重複塊，兩個畫面代表一個重複塊。
頂卡：輸入表達式
把token變成數值，並使用位置資訊。
兩個框：疊加處理塊
混合位置之間的資訊並轉換每個位置的表示。旁路是保留原始表達的隱喻。
下方卡片：處理後的表示
在句子生成中，有一個部分是計算詞彙分數和機率。
模型並非只有Attention。下方圖解說明了處理順序與各部分的作用。
用於學習Decoder架構的概念插圖。2個塊和4張卡片僅供說明，並非具體模型或原論文的完整結構。
Attention：引入其他位置的資訊
計算從各位置引入多少資訊，遠處位置也可成為候選。生成文字時透過限制參照範圍，避免看到未來token。
Feed-Forward：對各位置應用相同計算
對Attention後各位置的表示應用已學習的變換。逐位置處理，同一層使用相同參數，並包含非線性變換。
殘差連接與歸一化：支援層層疊加
殘差連接是將原始表達式新增至新計算結果的路徑。標準化是一種調整數字比例的計算。將它們組合起來形成塊。標準化等的位置會根據設計而變化。
最終輸出：下一個token候選的分數
在句子生成中，最後位置的表達式被轉換為整個詞彙的分數，並使用 Softmax 建立機率分佈。從候選者中選擇下一個標記。Attention分佈和輸出候選機率是不同的數字。
用於句子產生的解碼器類型流程
從上到下閱讀。圖示的卡片對應於“數值表達式”，並且框對應於“重複處理”。
- 輸入token → 嵌入與位置資訊
將句子轉換為可用於計算的表達式。
- 重複Transformer處理塊01 / 位置之間Multi-Head Self-Attention
隱藏未來位置並混合有關可以引用的位置的資訊。
同時結合殘差連接與歸一化02 / 每個位置Feed-Forward（FFN）同層使用相同權重，對各位置表示進行非線性變換。
同時結合殘差連接與歸一化圖中的兩個區塊僅用於說明。實際數量因模型而異。
- 建立輸出的部分最終位置表達式 → 詞彙得分 → Softmax
計算後續token候選的機率。
- 產生選擇下一個token，加入上下文
使用新增的上下文繼續下一個候選。
殘差連接是將原始表達式相加的路徑，歸一化是調整數字比例的計算。是否將標準化放置在組件之前或之後取決於設計。該圖並未描繪原始論文中的整個編碼器-解碼器。
| 作品 | 閱讀範圍與目的 |
|---|---|
| Encoder | 使用輸入之前和之後在句子中建立表達式。用於分類和搜尋表達式。 |
| Decoder | 使用每個位置的資訊產生延續。此處所示的配置。 |
| Encoder–Decoder | 將讀取輸入的一側和產生輸出的一側組合起來。原始論文在翻譯中涉及這種結構。 |
例如：結合上下文理解“它”指什麼
“公司釋出了新模型。它能總結文章。”處理“它”時，引入“模型”資訊很有幫助。各層進一步變換表示並用於後續輸出；具體Attention計算見下一篇。
當心
此圖是用於理解Decoder類型生成模型的簡化圖。它不是原論文中的整個Encoder-Decoder，也不是特定產品的配置圖。
這兩個區塊僅用於說明目的。實際的層數、寬度、活化函數和位置資訊會根據模型的不同而有所不同。
放到AI Inc.中思考
這為考慮模型設計、所需的計算資源和提供負擔提供了背景。遊戲的研究水準和表現值並非實際成分或測量值本身。
Self-Attention的Q、K、V在做什麼？
建立一個 Q 來搜尋要匯入的信息，建立一個 K 來檢查，建立一個 V 來實際導入訊息，並根據關係的強度混合使用 V。
Self-Attention的Q、K、V在做什麼？
建立一個 Q 來搜尋要匯入的信息，建立一個 K 來檢查，建立一個 V 來實際導入訊息，並根據關係的強度混合使用 V。
建立一個 Q 來搜尋要匯入的信息，建立一個 K 來檢查，建立一個 V 來實際導入訊息，並根據關係的強度混合使用 V。
Attention：句中元素的關係
相距較遠的元素之間的關係也包含在計算中。
理解“它”與“模型”的關係
公司發布了新模型。它可以為文字產生摘要。
新模型與它
此句中“它”與“模型”的關係提供線索。計算也會考慮相距較遠詞語之間的關係。
這是說明詞語關係的例子，不代表實際Attention權重。
計算輸入中的關係
Self-Attention計算同一輸入中其他token與某個token的關聯程度。
建立與上下文相符的表達式
把這些關係納入計算，經過多層形成適合上下文的表示。
一張紙是處理文字元素的隱喻。實際的標記不一定與單字相符。Attention是一種計算方法的名稱，並不意味著人類意識。
這是已被桌子和材料取代的說明性插圖。
Q與K：生成用於匹配的數值表示
使用學習到的轉換將每個位置的表示更改為 Q（查詢）、K（鍵）和 V（值）。計算 Q 和 K 的點積，並建立根據維度調整的分數。 Q 是類似搜尋查詢的隱喻，但它本身並不是文字中的問題。
Softmax：把分數變為權重
透過 Softmax 傳遞參考位置的點，並將它們變更為總和為 1 的權重。在生成模型範例中，我們首先屏蔽掉未來位置並賦予它們零權重。
V：乘以權重，混合資訊
各V乘以Attention權重後相加。這不是選中一個詞就結束，而是融入多個可參照位置的資訊。
Multi-Head：並行使用多組變換
每個具有不同學習變換的 Head 都會計算關係並總結結果。人們不一定決定每個頭的角色，也不一定意味著他們專門研究文法或代名詞。下面的範例只有 1 個 Head。
透過Q、K、V計算權重分配
這是3個位置、2個分量、1個Head的假設示例。將目標Q與各位置K比較，再按所得權重混合V；它不同於從詞表選擇下一個詞的計算。
目標Q = [1, 1]
分數 = Q 和 K 的內積 ÷ √2
表格可左右滾動。
| 位置 | K：用於匹配 | V：要混合的資訊 | 分數 |
|---|---|---|---|
| 1「公司」 | [1, 0] | [0.4, 0.1] | 0.707 |
| 2「模型」 | [1, 1] | [0.8, 0.6] | 1.414 |
| 3「它」 | [0, 1] | [0.1, 0.2] | 0.707 |
Softmax後的權重：合計100%
- 1「公司」24.8%
- 2「模型」50.3%
- 3「它」24.8%
位置3「它”的混合結果 [0.527, 0.377]。隱藏未來位置。
結果= 0.248 × [0.4, 0.1] ＋ 0.503 × [0.8, 0.6] ＋ 0.248 × [0.1, 0.2]
每個 V 乘以分佈並為每個分量相加。顯示的數值經過四捨五入，因此顯示的總計可能會偏離 100%。
試試看：如果您選擇位置 1，如果存在因果掩碼，它將僅 100% 使用位置 1。如果摘下面具，後面的職位也將成為候選人。數字不是真實模型的測量值。
例如：針對“它”使用假設數值計算
在下面的範例中，我們準備了Q、K、V 3個位置，將目標Q和每個K的內積除以√2後再計算Softmax。如果將物件變更為先前的位置，則未來的位置將在生成的範例模型中被封鎖。比較顯示的分佈和混合結果。
當心
除法、Q/K/V 和分數是出於說明目的的假設範例。這不是對真實模型Attention的測量，也不能證明語義關係已被正確學習。
Attention分佈會根據輸入而變化，但這本身並不意味著更新學習的參數。
Attention是計算方法的名稱，並不代表人類意識，也不保證輸出正確。
放到AI Inc.中思考
這就是為什麼在處理長上下文和推理的計算中使用記憶體的原因。在考慮客戶供應時，我們會同時考慮模型品質和資源負擔。
LLM如何生成後續文字？
這裡介紹自迴歸文字生成：從給定上下文計算下一個token機率，將選中token加入上下文，再計算下一個。
LLM如何生成後續文字？
這裡介紹自迴歸文字生成：從給定上下文計算下一個token機率，將選中token加入上下文，再計算下一個。
這裡介紹自迴歸文字生成：從給定上下文計算下一個token機率，將選中token加入上下文，再計算下一個。
不要把尚未生成的續文混入輸入
生成時，它使用指令和先前的輸出。即使在學習過程中並排處理具有正確答案的句子時，也會使用因果掩碼來防止每個位置看到未來的正確答案。能夠並行計算多個學習位置是一回事，能夠看到未來的答案又是另一回事。
基於機率進行選擇：並非總是最佳候選者
有高機率選擇候選人的方法和基於機率選擇候選人的方法。輸出將根據選擇方法和溫度等設定而變化。這種重複不能簡單地說整個答案可以一次完成。
選中的token也成為後續上下文
將產生的標記新增至上下文中並計算下一個候選者。它繼續下去，直到到達指示終止、輸出限制等的標記。由於重複選擇，初始輸出的差異也會影響後續句子。
繼續您的選擇到下一個輸入
除法和機率都是虛構的。為了更容易理解，這裡舉一個例子，其中選擇機率較高的候選者。
- 01
- 當前上下文
- AI的
- 下一位候選人
- 研究 60% · 應用 25% · 其他 15%
- 選擇
- 研究
- 下一個上下文
- AI研究
- 02
- 當前上下文
- AI研究
- 下一位候選人
- 將 70% · 主語標記 20% · 其他 10%
- 選擇
- 將
- 下一個上下文
- 開展AI研究
- 03
- 當前上下文
- 開展AI研究
- 下一位候選人
- 推進 55% · 支持 30% · 其他 15%
- 選擇
- 繼續
- 下一個上下文
- 推進AI研究
實際上，選擇方法會根據設定而變化，例如基於機率的抽獎。下一個標記的機率不是內容真實的機率。正常產生不會更新每個答案的學習權重。
例如：逐步續寫“AI的”
出於解釋目的，流程將是在“AI's”中添加“research”，在“AI's Research”中添加“wo”，然後計算下一個候選者。圖中的候選人和機率都是虛構的。實際的標記化和候選標記將根據模型和上下文而有所不同。
當心
下一個標記的機率不是內容真實的機率。即使是自然句子也可能會出現錯誤，因此請根據材料和計算結果進行檢查。
常規文字生成不會每次回答都更新已訓練權重；追加訓練是獨立流程。
推理實作可以重複使用現有的計算，例如 KV 快取中的計算。這張圖顯示了資訊的流動，並不意味著每次都從頭開始重新計算一切。
放到AI Inc.中思考
向客戶提供服務時，產生文字所需的推理也會消耗算力。請區分完成模型的訓練費用，與持續使用所需的供給和費用。
AI研究前沿10
核對於2026年10月5日。透過近期學術論文，瞭解9個研究方向及其成果與侷限。
確認日期 · 範圍：2026年5至9月的10篇論文
從制定答案的能力到完成長期任務的能力。了解最近論文的研究方向，包括如何使用計算、證據的可靠性以及評估和權威的設計。
我該如何閱讀最新的研究趨勢？
透過2026年5至9月的10篇論文介紹9個方向：推理、智慧體、記憶、效率、音訊、世界模型、可靠性、評估與權限設計。
我該如何閱讀最新的研究趨勢？
透過2026年5至9月的10篇論文介紹9個方向：推理、智慧體、記憶、效率、音訊、世界模型、可靠性、評估與權限設計。
透過2026年5至9月的10篇論文介紹9個方向：推理、智慧體、記憶、效率、音訊、世界模型、可靠性、評估與權限設計。
閱讀我們的更改以及比較
檢查模型、數據、計算預算和評估標準。不同論文中得到的數值如果條件不同，不能直接排名。每個部分分別描述方法和觀察到的結果。
發布日期和採用/驗證是分開的。
預印本是指在學術期刊或會議經過同儕審查之前就可以發表的手稿。對於已被會議批准的論文，將會註明。僅採用或高分並不能證實在所有應用程式中的有效性。
| 看什麼 | 確認 |
|---|---|
| 主題 | 測試使用了什麼模型、語言、資料和任務 |
| 比較條件 | 計算量、試驗次數、設備有比較過嗎？ |
| 指數 | 是一次回答正確，還是多個候選中至少一個正確 |
| 再現性 | 能否確認方法、程式碼、數據、論文版本？ |
| 限制 | 哪些條件尚未驗證或需要哪些額外驗證？ |
例如：即使正確答案率很高，嘗試次數也不同
一次回答正確率，與生成多個候選後至少一個正確的比例並不相同。閱讀結果前，應核對任務、模型、候選數及計算預算。數值高不代表單次回答更可靠。
當心
本頁依據所選論文解說，不代表領域共識或現實產品最新排名。請區分研究成果與遊戲實現。
推理：不只是更多的計算，而是不同的思考方式
在回應時會產生許多候選者的研究中，挑戰在於重複相同的錯誤。 PTTS 首先建立不同的解決方案策略，並根據該策略建立每個候選方案。
推理：不只是更多的計算，而是不同的思考方式
在回應時會產生許多候選者的研究中，挑戰在於重複相同的錯誤。 PTTS 首先建立不同的解決方案策略，並根據該策略建立每個候選方案。
在回應時會產生許多候選者的研究中，挑戰在於重複相同的錯誤。 PTTS 首先建立不同的解決方案策略，並根據該策略建立每個候選方案。
在增加候選數量之前，將解決方案策略分開
首先準備多個策略，並根據每個策略建立候選答案。
左：先建立不同的策略
規劃您將如何嘗試解決相同的問題。在 PTTS 中，政策制定者同時考慮多個候選藥物，旨在減少類似試驗的集中度。
中：按方針生成候選
執行者使用問題和每個策略來建立候選答案。準備政策和完成具體答案是兩個不同的角色。
右：衡量考生是否有正確答案
評估候選答案並衡量至少一個答案是否正確。考慮包含正確答案以及選擇它並將其返回給用戶的能力。
pass@k檢查k個候選中是否至少有一個正確，不同於單次回答正確率，也不表示能夠選出正確候選。
卡盒、檔案和紙張都是說明比喻。顏色表示方針差異，不是效能排名；紙張和人物數量不代表論文試驗次數或模型數。右側場景也不保證能自動選出正確答案。
如何在訓練模型中使用計算
在推理過程中使用額外計算的方法稱為測試時間縮放。在PTTS，我們也考慮如何將政策制定者和執行者分開，以強化學習來調整政策制定者。
報紙報道了什麼
在Qwen3的1.7B、4B模型和5項數學評估中，研究報告pass@64優於獨立重複生成。該指標檢查64個候選中是否至少有一個正確。[R01]
結果範圍和剩餘挑戰
能夠從多個候選者中可靠地選擇正確答案並透過單一答案實現相同的改進是其他挑戰。您還需要根據您的目的檢查非數學作業、等待時間和費用。
例如：四個候選中只有一個正確時
假設一道題生成4個候選，僅1個正確，pass@4便把該題計為成功，再統計多題成功比例。它不表示“四次對一次”，也不表示能可靠選出正確答案。此例僅供說明，並非論文成績。
放到AI Inc.中思考
這導致決策不僅考慮研究績效，還考慮交付給客戶所需的推理資源。這並不意味著 PTTS 可以在遊戲中單獨配置。
智慧體：從中間操作，走向成品評估
即使你可以搜尋和使用工具，也不一定意味著你可以完成一項漫長的任務。 KNOWS 評估收集資訊、組織資訊以及建立文件和其他可交付成果的網路工作。
智慧體：從中間操作，走向成品評估
即使你可以搜尋和使用工具，也不一定意味著你可以完成一項漫長的任務。 KNOWS 評估收集資訊、組織資訊以及建立文件和其他可交付成果的網路工作。
即使你可以搜尋和使用工具，也不一定意味著你可以完成一項漫長的任務。 KNOWS 評估收集資訊、組織資訊以及建立文件和其他可交付成果的網路工作。
從中間操作到可用結果
收集資訊之後是對成品的組織和確認。
左：收集必要的信息
搜尋和檢索材料是工作的一部分。即使找到了訊息，也不一定意味著所要求的工作已經完成。
中：整理並形成成果
比較您收集的資訊並將其編譯成所需的格式，例如文件、表格或投影片。不僅是內容，還有佈局和結構。
右：成品與要求的比較
驗證您是否具有所需的資訊以及是否已按指定配置和顯示這些資訊。分別評估中間操作和最終可用結果。
“成功取得資料”與“完成請求”是不同結果。檢查最終成果，也更容易找出停在哪個步驟。
這是已被案頭工作取代的說明性插圖。這不是實際 KNOWS 螢幕或評估任務的再現，右邊的場景也不是保證成功的描述。這與遊戲提供過程不同。
不僅模型很重要，工具的交付方式也很重要。
即使使用相同的模型，結果也會根據工具的操作範圍和機製而有所不同。方向是分別衡量中間操作是否成功以及成品是否可以使用。
報紙報道了什麼
研究設定了110項複雜任務；受測智慧體中最佳完全成功率仍低於3%。即使部分完成，視覺操作失敗也可能使成果無法使用。[R02]
結果範圍和剩餘挑戰
這是特定挑戰和實驗時系統的結果，並不是所有代理人的成功率。由於我們使用的是實際網站，因此評價也會受到螢幕和資訊變化的影響。
例如：即使可以搜索，對比材料也不完整。
例如要求“調查三個候選，並製作帶出處的比較資料”。取得三份資訊後，若比較條件缺失或文字重疊無法閱讀，仍不算完成。應檢查資訊獲取和可用成品。這是說明示例，並非復現論文任務。
放到AI Inc.中思考
這讓您有理由檢查模型的效能以及客戶實際收到的交付結果。我們也來看看出版後供應和提前供應的結果。
長語境：從保留全文到利用記憶進行設計
為了處理長文本，需要平衡引用訊息的能力與計算和記憶的負擔。 ARMT 研究將重複更新的聯想記憶納入模型中。
長語境：從保留全文到利用記憶進行設計
為了處理長文本，需要平衡引用訊息的能力與計算和記憶的負擔。 ARMT 研究將重複更新的聯想記憶納入模型中。
為了處理長文本，需要平衡引用訊息的能力與計算和記憶的負擔。 ARMT 研究將重複更新的聯想記憶納入模型中。
使用休息和記憶來閱讀長文本
上一節所獲得的資訊將延續到下一節。
左：讀取部分輸入
ARMT將長輸入分段並依次處理，每段內使用該範圍的資訊。
中：更新內部記憶
它使用所讀取內容的表示來更新模型內的關聯記憶體。持卡人是對其工作方式的隱喻。
右：在下一個分隔符號中使用
當處理下一個輸入時，它還引用從上一個分隔符號繼承的記憶體。重複此過程來處理長句子。
保留整個文字和將訊息傳遞到記憶體之間是有區別的。也要檢查最大長度和正確使用必要資訊的能力。
資料和卡盒是說明比喻，並非論文內部結構圖。實際記憶由數值表示，不同於文字摘要或完整儲存原文；也不表示應用會永久儲存對話，或代表遊戲實現。
分段讀取並保留內部記憶體
ARMT把輸入分段順序處理，每段更新聯想記憶，下一段也會參考該記憶。記憶是模型內部的數值表示，不是完整儲存原文，也不同於文字摘要。
不只是長度的上限，還有是否真的可以使用？
該研究探索適應長輸入的追加訓練及記憶層選擇。可輸入的長度與正確利用遠處資訊的能力，應分別看待。
報紙報道了什麼
我們為每個欄位建立長文字數據，並評估超出原始模型上下文上限的輸入以及比訓練期間更長的輸入。即使在原始長度範圍內，我們也會報告在保持效能的同時減少計算量的結果。[R03]
結果範圍和剩餘挑戰
實驗目標是一個相對較小的模型，最多有1B個參數。僅從這個結果無法判斷在更大的模型或不同的領域是否能得到相同的效果。
例如：連接長報告的前半部分和後半部分
考慮一份包含上半年計畫資格和下半年結果的報告。在閱讀後半部時，如果你能利用上一節遺留下來的信息，你就可以根據兩者進行處理。然而，有必要評估所有條件是否都能準確地結轉。這是如何使用它的範例，本文不保證本報告成功。
放到AI Inc.中思考
這將幫助您思考僅提高表現的研究與使用更少資源完成相同工作的研究之間的差異。它不會將遊戲模型規模或資源值轉換為論文中的值。
效率：首先創建候選人並一次驗證所有候選人。
推測性解碼是一種使用輕計算創建未來令牌候選並使用目標模型驗證它們的方法。最近的研究改進了每個請求的處理時間表以及產生候選人的模型的學習。
效率：首先創建候選人並一次驗證所有候選人。
推測性解碼是一種使用輕計算創建未來令牌候選並使用目標模型驗證它們的方法。最近的研究改進了每個請求的處理時間表以及產生候選人的模型的學習。
推測性解碼是一種使用輕計算創建未來令牌候選並使用目標模型驗證它們的方法。最近的研究改進了每個請求的處理時間表以及產生候選人的模型的學習。
先做候選人，核對招募範圍
結合候選創建和驗證來產生答案的延續。
左：創造未來的候選人
首先透過簡單的計算創建多個候選令牌。 ASPIRE 透過縮小相同模型引用的上下文來建立候選對象。
中：用目標模型驗證
ASPIRE用參考全文上下文的計算批次驗證候選，檢查從開頭起能連續接受多少。
右：添加採用的延續
新增接受的第一部分和驗證者確定的下一個令牌。我們將刪除未被接受的剩餘候選人並創建另一個候選人。
此處驗證檢查是否與目標模型的生成一致，不是核實事實。效率因可接受候選範圍和處理條件而變化。
一張紙是一個令牌的隱喻，並不一定會匹配一個單字。三個場景代表處理的階段，數字的差異並不表示模型的數量。此圖並未重現ASPIRE的非同步處理、內部結構或遊戲操作。
驗證與事實查核不同
此過程檢查是否與目標模型的生成相符並採用可接受的前導部分。 ASPIRE 使用相同的模型在某些上下文中產生候選者，然後使用所有上下文進行驗證。另一種選擇是使用更輕的不同模型。即使文字通過了驗證，我們也會單獨檢查事實支援。
提高流程一致性和候選人品質
ASPIRE讓不同請求各自安排候選生成與驗證。另一項研究回收既有訓練資料中被浪費的訓練訊號，使候選更容易透過驗證。
結果範圍和剩餘挑戰
吞吐量改善比例不能直接當作單次延遲或費用改善比例。需閱讀模型、裝置、併發數、候選接受率及生成方式等條件。
例如：四個候選中採用前兩個時
假設您創建了四個候選令牌，並且前兩個在驗證期間被接受。將這兩個標記和驗證者確定的下一個標記加入延續中，並刪除剩餘的候選標記。在某些情況下，我們可能必須重新建立所有候選項。數字 4 和 2 用於解釋目的，並不表示紙張的固定設定或性能。
放到AI Inc.中思考
應對供應短缺的措施包括增加設備和提高效率。論文的加速率並不會直接轉化為遊戲的供給量。
多模態：思考之前，是否真正利用聲音依據？
即使接收音訊的人工智慧也可能使用文字中的線索而不是使用實際的音訊訊息進行回應。 PG-TTRL 在推理過程中考慮強化學習，重點是使用可靠的證據。
多模態：思考之前，是否真正利用聲音依據？
即使接收音訊的人工智慧也可能使用文字中的線索而不是使用實際的音訊訊息進行回應。 PG-TTRL 在推理過程中考慮強化學習，重點是使用可靠的證據。
即使接收音訊的人工智慧也可能使用文字中的線索而不是使用實際的音訊訊息進行回應。 PG-TTRL 在推理過程中考慮強化學習，重點是使用可靠的證據。
閱讀問題並根據聲音進行解答
即使問題相同，答案也會根據您實際聽到的聲音而變化。
左：僅使用文字線索回答
這是您根據問題的措詞或常見答案做出推論的時候。即使您可以輸入聲音，也不能保證您的答案將基於真實的聲音。
右：聲音訊息也可以作為證據
將您聽到的聲音和聲音的特徵與問題結合。該研究將比較人們可以引用可靠資訊的條件和限制可靠資訊的條件，並檢查它對答案的影響有多大。
我們確保對輸入做出回應，在輸入的基礎上進行構建，並得出正確的答案。即使答案取決於聲音，但不一定是正確答案。
耳機是聲音訊息使用差異的隱喻。文中有限參考了內部音訊資訊進行了對比，圖中並沒有再現摘下耳機的操作。並不表示PG-TTRL的學習過程或遊戲的操作。
響應輸入並基於輸入
該研究分析模型推理對聲音的依賴，並納入訓練評價。僅延長文字思考，未必能解決聽辨薄弱的問題。
報紙報道了什麼
研究評估了2個音訊語言模型及MMAR、MMAU兩項音訊推理基準，報告了相較基礎模型和常規推理時強化學習的改善。[R06]
結果範圍和剩餘挑戰
這是實際更新模型的研究方法，並不表示普通聊天會自動追加訓練，也未證明對所有聲音、語言、影象或影片都有效。
例如：對於同一問題聽到不同的聲音
假設同問“聽到了什麼聲音”，分別提供雨聲與掌聲。問題相同，但答案需要實際聲音差異。這是說明例子，並非論文任務。論文比較限制內部音訊參照與正常條件，研究聲音對回答的影響。
放到AI Inc.中思考
不要僅根據市場名稱來判斷應用程式；它將幫助您考慮客戶需要的輸入和評估條件。請區分研究中所使用的學習方法和遊戲的操作。
世界模型：從預測下一步到長期發展的穩定性
世界模型是用來預測環境狀態和行動結果的模型。即使您可以準確預測下一步，隨著時間的推移重複您的預測也可能會偏離現實。
世界模型：從預測下一步到長期發展的穩定性
世界模型是用來預測環境狀態和行動結果的模型。即使您可以準確預測下一步，隨著時間的推移重複您的預測也可能會偏離現實。
世界模型是用來預測環境狀態和行動結果的模型。即使您可以準確預測下一步，隨著時間的推移重複您的預測也可能會偏離現實。
預測前進一步並重複下一步
將預測狀態作為下一次輸入，形成較長的狀態序列。
左：思考你目前的狀態和行動
如果是模型車，線索就是它目前的位置和方向以及如何移動它。世界模型根據狀態和行動預測下一個狀態。
中：從預測結果繼續預測
使用預測狀態作為下一個輸入以進一步進行。這種重複的預測稱為推出。
右圖：查看長時間重複時的分佈
檢查各種狀態出現的頻率、偏向與範圍，即狀態分佈。短期預測準確，不保證長期展開仍能保持這種性質。
單步預測的準確性、長期展開的分布與規劃是否有用，是不同的評估指標。分布穩定不保證每次預測或行動計畫都正確。
模型車和板是說明性隱喻，不代表論文中的控制問題或模型內部的分佈。汽車在棋盤內並不能證明穩定性。多輛汽車代表了我們思考未來狀態的場景，並沒有展示精確的預測或人工智慧公司如何經營城市。
測量重複預測的屬性
該研究讓模型內部狀態保持一定分佈，考察長時展開的穩定性。應分別評估短期準確性、長期分佈和規劃有效性。
報紙報道了什麼
在12項控制任務中，即使反覆進行長時預測，評估分佈仍得到保持。但在短期預測精度上，另一些對比模型更好。[R07]
結果範圍和剩餘挑戰
這取決於理論條件以及所習得的環境和行為的範圍。僅僅因為分佈穩定並不意味著我們可以準確地再現現實世界或製定良好的行動計劃。
例如：模型車的下一步狀態及其長期發展
根據模型車目前的位置、方向和移動來預測模型車的下一個狀態。如果您再次使用該預測作為輸入，則可以建立未來的開發，而不必每次都移動實際物件。但僅僅因為一步接近，並不能說能夠維持多次操作後狀態的偏向和擴散。對於長時間的預測，即使軌跡不同，也可以維持分佈，並且不能僅根據位置的重疊來做出判斷。模型車僅用於說明目的，並不重現論文中的實驗任務。
放到AI Inc.中思考
這導致了一種將短期預測與長期業務結果分開的思維方式。這並不意味著 AI Inc. 的城市和管理模擬是在這個世界模型上運行的。
可靠性：找出為什麼你不知道，還要找出為什麼即使你知道你還是錯的
不正確的答案不僅發生在您不具備必要知識的情況下。這項研究探討了問題中的單字和學到的聯繫如何相互競爭，從而導致選擇錯誤的答案。
可靠性：找出為什麼你不知道，還要找出為什麼即使你知道你還是錯的
不正確的答案不僅發生在您不具備必要知識的情況下。這項研究探討了問題中的單字和學到的聯繫如何相互競爭，從而導致選擇錯誤的答案。
不正確的答案不僅發生在您不具備必要知識的情況下。這項研究探討了問題中的單字和學到的聯繫如何相互競爭，從而導致選擇錯誤的答案。
刪除一些問題並比較答案的變化
即使您有知識，問題的措辭和您從學習中建立的聯繫也可能會發生衝突。
分開要更換的零件和離開的條件
範例前提：A是鋼琴家，B是畫家，兩人都住在東京。
- 原問題
- 住在東京的鋼琴家是誰？
- 沒有共享資訊的問題
- 鋼琴家是誰？
在此前提下，兩種問題的答案都是人物A。去掉共同地點不會改變詢問物件。研究觀察輸入詞語改變時，回答和候選被選中程度如何變化。
該解釋使用虛構人物，並不表示論文中的個別問題、實際答案或內部機率。僅僅因為答案發生了變化並不能確認它是錯誤的答案。
左：檢查原始問題中單字的影響
在獲得原始答案後，我們檢查哪些單字對選擇可能答案的可能性有很大影響。藍色的紙是問題的一部分的隱喻。
中：去掉所選詞語後重新檢查
去掉影響最大的部分，重新審視剩下的字的影響。這是基於輸入介入而不是重新學習操作的比較。
右：比較候選人支持率的變化
答案和候選機率的變化被用作尋找錯誤答案的線索。即使答案是正確的，如果省略重要的單字，結果也可能會改變。
僅僅因為一個字有很大的影響並不意味著它是一個錯誤的答案。還有其他原因，例如缺乏知識。如果您遺漏了這些詞，那麼這種方法就不會給出正確的答案。
拿走那張紙的描述是一個改變問題措詞的隱喻。這不是直接重現論文中進行的內部幹預或兩步驟計算的圖表。它並不代表 AI Inc. 的實際答案、機率、檢測成功或操作。
改變部分問題，看到答案改變
透過刪除具有強烈影響的關鍵字來觀察輸出的變化。方向是分離並檢查知識的缺乏、知識的不正確、上下文的干擾以及推理的不穩定。
報紙報道了什麼
我們已經報告了結果，其中更改關鍵字可以用作檢測多個模型和任務中的錯誤答案的線索。然而，它也表明與其他檢測訊號的組合並不總是能改善。[R08]
結果範圍和剩餘挑戰
主要方法使用令牌機率，旨在輕鬆應用於開放權重模型。尚未驗證不允許存取內部資訊的服務是否可以執行類似的檢測或解釋所有錯誤答案背後的機制。
例如：位置資訊和識別人員的條件
在圖中所示的句子範例中，即使刪除了兩個人共同的單字“東京”，詢問鋼琴家的條件仍然存在。另一方面，如果您刪除“鋼琴家”並使用“誰住在東京？”，兩個人都會匹配，並且問題的含義將會改變。您需要閱讀結果中的更改以及更改的資訊。此範例不是研究論文問題，也不是模型答案的實際測量。
放到AI Inc.中思考
這就導致了要專門閱讀評估範圍的原因。不要將單一錯誤答案偵測的效能視為整個模型安全的保證。
評量：不只看分數，更看評分體系
允許智慧體改變工作環境的評估中，智慧體可能不解題而影響分數。BenchShield從評估環境與執行記錄檢查獎勵一致性。
評量：不只看分數，更看評分體系
允許智慧體改變工作環境的評估中，智慧體可能不解題而影響分數。BenchShield從評估環境與執行記錄檢查獎勵一致性。
允許智慧體改變工作環境的評估中，智慧體可能不解題而影響分數。BenchShield從評估環境與執行記錄檢查獎勵一致性。
查看評估結果及評分依據
除了查看您獲得了多少分之外，還檢查評估了哪些可交付成果和投入。
左：查看上次評估結果
最終分數是比較結果的指南。但是，僅通過分數並不能告訴您分數是否是透過完成作業獲得的，或者是否有其他變化影響了分數。
右：追蹤可交付成果、評分輸入和記錄
核對評分依據的成果或數值，以及中途修改。BenchShield藉助評估框架證據，將實際操作與評分影響關聯起來。
解決作業是一回事，但影響測量分數則是另一回事。我們也會查看證據來區分漏洞的存在和執行過程中使用的事實。
紙張和資料夾是一個說明性的隱喻，並不描述實際的評估畫面或作弊程序。左側並不總是意味著錯誤評估，右側並不總是意味著成功檢測。 BenchShield需要評估平台的測量，並不是僅僅透過紙本比較就能重現的方法。
了解您獲得高分的原因
檢查可交付成果、用於評分的資訊以及評分流程。這項研究區分了正確完成任務和利用評估漏洞的獎勵駭客行為。
報紙報道了什麼
研究針對3個智慧體評估框架，結合靜態檢查與執行記錄進行驗證，並比較只看對話記錄與使用框架側證據的方法。[R09]
結果範圍和剩餘挑戰
需要將測量納入評估環境中，這並不是一種可以在所有環境中都適用的方法。對於具有不同評分過程和自由探索的任務，需要擴展設計。
例如：即使總表不完整，如果我獲得高分怎麼辦？
例如“製作彙總三項數值的表格”，缺少必要行卻獲得高分。除表格外，還應檢查評分資料和中途修改，依據證據區分成品缺失、評分故障與評估資訊變更。這是假設例子，並非論文任務或實際作弊。
放到AI Inc.中思考
理解高評分是在什麼條件下得到的。決定釋出與權限時，應同時閱讀評估範圍和必要的監督條件。
權威設計：成功工作與不過度操作的區別
即使您選擇了方便的工具，該工具也可能超出請求所需的範圍。 FORTIS 評估技能和工具選擇以保護最小特權。
權威設計：成功工作與不過度操作的區別
即使您選擇了方便的工具，該工具也可能超出請求所需的範圍。 FORTIS 評估技能和工具選擇以保護最小特權。
即使您選擇了方便的工具，該工具也可能超出請求所需的範圍。 FORTIS 評估技能和工具選擇以保護最小特權。
必要的請求範圍和過於寬泛的權限
即使可以滿足相同的要求，可以處理的工具範圍也不同。
左：唯讀目標素材
若要求“告訴我這個檔案的要點”，應考慮讀取目標檔案是否足夠；無需因此獲得修改其他檔案的權限。
右：其他材料也可以改變。
即使您可以閱讀相同的材料，可以更改或刪除其他文件的工具也具有更廣泛的範圍。檢查一下您是否僅僅因為方便的解釋而選擇了過多的權限。
完成任務的能力以及選擇適合需求的工具的能力是其他評估標準。檢查您選擇的技能以及您將在其中使用的工具。
文件和辦公室工具都是權限範圍的隱喻。右側的場景是可以進行多種操作的狀態，並不是實際更改或刪除的場景。 FORTIS 評估已配置技能層次結構的選擇，並不代表實際服務中所發生的操作。
即使對於例行請求，您是否也會選擇過多的權力？
我們將研究選擇是否不僅會因激進的指示而改變，還會因強調便利性的模糊要求和解釋而改變。除了模型的成功率之外，它還衡量模型是否在所需的操作範圍內。
報紙報道了什麼
我們報告了一個問題，即在電子郵件、郵購和文件操作這三個領域選擇了比必要的權限更廣泛的技能和工具。這顯示了與工作能否完成不同的評價軸。[R10]
結果範圍和剩餘挑戰
這是一項使用人工建構的技能層次結構來評估選擇的研究。它不包括在實際外部服務上運行工具或根據自然用戶歷史記錄進行驗證的結果。
例如：總結一個檔案，需要什麼
假設您有一個可以讀取目標檔案的工具和一個可以編輯/刪除整個資料夾的工具。如果兩者都可以讀取該文件，那麼能夠完成任務並不足以判斷您是否選擇了適當的權限。分別確認請求所需的目標和操作範圍。這不是顯示實際服務設定畫面或論文的單獨分配的範例。
放到AI Inc.中思考
即使對於已發布的模型，也有關於允許多少行為的單獨判斷。將執行權限和監督與模型效能分開檢查。
參考10主題
直接連結到原文。該日期是 arXiv 首次發布/參考版本的日期（UTC）。
術語表35
簡明解釋AI基本術語和閱讀論文所需詞彙。
- 神經網路
- 透過學習到的權重與變換組合輸入數值，得到預測等輸出的模型機制。
- 隱藏層
- 位於輸入與輸出之間的層，變換前層表示後傳給下一層。
- 權重與偏置
- 訓練中調整的數值。權重改變輸入的影響，偏置平移加總結果。
- 活化函數
- 變換節點計算結果的函式。ReLU等非線性變換用於處理複雜關係。
- 損失
- 使用適合目的的方法來衡量預測和學習目標之間差異的值。將其與未知範例的效能區分開來。
- 反向傳播
- 從輸出反向追蹤計算，求出各參數對損失影響的梯度。
- 學習率
- 更新參數的一步大小。越大不代表改善越快。
- Self-Attention
- 計算同一序列各位置的關聯權重，再加權混合Value資訊。
- 因果面具
- 文字生成時，限制各位置參照未來token。
- 測試時擴展
- 一種透過將計算分配給學習後回答時的嘗試次數和思考步驟來提高表現的方法。比較成本和等待時間。
- 推測性解碼
- 一種生成方法，使用輕量級計算創建先前的令牌候選，並使用目標模型進行驗證。效果因模型、設備、候選人接受率等而異。
- KV快取
- 儲存Attention計算所需資訊，以減少重複計算。長上下文時也會增加記憶體負擔。
- 世界模型
- 預測環境狀態和行動結果的模型。區分後續步驟的準確性和長期預測和計劃的有效性。
- 獎勵駭客
- 利用評分和獎勵系統的漏洞獲得高分，卻沒有達到最初的目的。
- 預印本
- 甚至可以在學術期刊和會議上進行同行評審之前發表的論文手稿。發表與同儕審查和採用之間是有區別的。
- AI
- 人工智慧.利用電腦進行辨識、預測、判斷等技術的廣義術語，還包括機器學習和生成式人工智慧。
- 機器學習（ML）
- 從資料學習規律，用於新輸入預測、分類或生成的方法。
- 深度學習
- 使用多層神經網路的機器學習方法，也稱深度學習。
- 人工智慧世代
- 人工智慧根據學習的規律生成句子、圖像和音訊等內容。
- LLM
- 大規模語言模式。從大量文本中學習的模型，用於文本生成、摘要、翻譯等。
- Transformer
- 利用Attention計算處理資訊之間關係的神經網路架構，被許多LLM採用。
- 參數
- 模型內部的數值在訓練過程中需要調整。僅僅因為它們很多，你無法判斷它們是否適合你的目的。
- token
- 模型處理句子等的小單位。它與字符或單字的數量不對應，並且劃分根據模型和語言而變化。
- 上下文視窗
- 一個進程中可以引用的資訊長度的上限。通常以token數量來表示，不同模型對上限的處理有所不同。
- 預訓練
- 從廣泛的資料中學習構成模型基礎的規律的過程。
- 微調
- 使用附加資料調整經過訓練的模型。它與寫入指令和 RAG 的不同之處在於它更新參數。
- 提示詞
- 傳遞給模型的指令和訊息。它通常會改變答案的條件，而不是模型本身的額外學習。
- RAG
- 搜尋擴展生成。如何搜尋所需的材料並將找到的內容傳遞給模型以產生答案。
- 嵌入（Embedding）
- 將句子等的特徵表示為數字序列的方法。您可以使用內容的鄰近性進行搜尋等。
- 幻覺
- 合理地產生沒有事實或材料支持的內容。來源和數據需要核實。
- 基準
- 評估比較固定任務的表現。還需要在實際客戶應用中進行評估。
- 多模態
- 處理文字、圖像和音訊等多種類型的信息。相應的輸入和輸出因模型而異。
- AI智慧體
- 一個允許您選擇實現目標的步驟並使用搜尋、工具等繼續工作的系統。決定您可以使用的工具和執行權限。
- 延遲
- 從一次請求到收到響應的等待時間。有時會分別測量首字延遲和全文完成時間。
- 吞吐量
- 單位時間可處理的請求或token數量，與單次請求延遲不同。
研究結果應結合目標模型、任務和實驗條件來解讀。請檢查每個項目的參考資料、結果範圍以及剩餘問題。
返回幫助頁首