Galactica AI 產生的內容有哪些不可靠之處？

Galactica AI 內容的不可靠之處

Meta 開發的大型語言模型 Galactica AI 旨在協助研究人員，但因其產生的內容存在不可靠之處，最終被下線。科學家發現 Galactica AI 會錯誤引用文本，甚至編造期刊，這嚴重影響了其作為研究工具的可靠性。

不可靠性的具體表現

Galactica AI 的主要問題在於其產生的資訊不準確。它不僅會錯誤引用現有文獻，還會捏造不存在的期刊，使得使用者難以驗證其提供的資訊。這種情況對學術研究而言是極為不利的，因為研究的準確性至關重要。研究人員若依賴 Galactica AI 產生的錯誤資訊，可能導致研究方向的偏差，甚至得出錯誤的結論。

對錯誤資訊傳播的擔憂

除了學術研究上的問題，Galactica AI 的不可靠性也可能被用於傳播假訊息。由於其能夠產生看似合理的文本，因此可能被濫用來製造和散布不實資訊，進一步加劇了社會上的資訊混亂。儘管 Meta 的首席人工智慧科學家 Yann LeCun 對於下線 Galactica AI 表示不滿，但其潛在的危害性顯然是 Meta 決定下線該模型的重要考量因素。