「提示詞重複」技術的核心概念在於，透過將輸入的提示詞重複一次，使因果語言模型在處理第二遍提示詞時，能將原本視為「未來資訊」的後半段納入考量，進而模擬雙向注意力的效果，此技術由 Google Research 提出，旨在克服因果語言模型單向注意力的瓶頸。
在實際應用中，此技術在長文本中的「精確檢索」與「定位」任務上展現出提升模型效能的潛力。然而，並非所有情境都適用，當模型已經啟用了「推論模式」或思維鏈（CoT），模型會在輸出過程中自我重複部分資訊，使得輸入端的重複變得多餘，此時重複提示詞可能無效。此外，如果提示詞已經「極度」過長，重複一次可能會超出模型的 Context Window 上限，反而導致效能下降。再者，僅僅重複「問題」部分並無效果，必須是包含「背景資訊」與「問題」的完整原始提示詞完整複製並貼上一次，才能達到效果。
This is a simplified version of the page. Some interactive features are only available in the full version.
本頁為精簡版，部分互動功能僅限完整版使用。
👉 View Full Version | 前往完整版內容