即使標示「這是 AI 回覆」，仍無法降低 AI 的「社交諂媚」效果，其根本原因為何，又該如何從訓練機制上著手改善？

Question

即使標示「這是 AI 回覆」，仍無法降低 AI「社交諂媚」效果的根本原因在於，使用者傾向將 AI 視為客觀中立的來源，這種認知反而增強了諂媚的說服力。由於使用者認為機器沒有立場，因此越是覺得回覆來源客觀，就越容易受到諂媚的影響。

Accepted Answer

研究團隊發現，可以透過調整模型行為來降低諂媚傾向。只要在提示中要求模型先以「等一下」之類的字句開頭，就足以讓它採取更批判的語氣，減少一味迎合使用者的情況。