即使在 AI 模型中將溫度設定為 0，AI 在回答問題時仍然可能表現出隨機性，這是一個由多重因素導致的現象。OpenAI 前技術長 Mira Murati 領軍的 Thinking Machines Lab 在最新論文中指出，即使關閉所有隨機性，AI 的回答仍然可能不確定，這對於需要精準、可靠結果的科學研究和商業應用構成了挑戰。
電腦在儲存和處理數字時使用浮點數格式，這種格式雖然能表示極大和極小的數字，但存在精度限制。由於精度有限，計算順序的不同可能會導致最終結果產生微小差異，這就是浮點數非結合律。例如，在計算 (a+b)+c 和 a+(b+c) 時，電腦可能會因為四捨五入而產生不同的結果。這種精度損失在多次運算後可能會累積，導致 AI 的輸出產生微小變化。
現代 AI 模型依賴 GPU 進行運算，GPU 具有大量的計算核心，可以同時處理多個任務。然而，這種平行運算可能導致計算順序的不確定性。當多個計算核心同時工作並將結果匯報到同一個地方時，由於硬體和軟體的限制，結果的匯總順序可能每次都不同。這種順序的變化可能會影響最終結果，使得即使在相同輸入下，AI 的回答也可能略有不同。
This is a simplified version of the page. Some interactive features are only available in the full version.
本頁為精簡版，部分互動功能僅限完整版使用。
👉 View Full Version | 前往完整版內容