RLHF（Reinforcement Learning from Human Feedback，人類反饋強化學習）是一種人工智慧技術，其核心在於結合強化學習和人類反饋來訓練機器學習模型，使AI系統能夠以更加人性化的方式學習和做出決策。
在傳統的強化學習模型中，AI通過與環境互動產生的獎勵來學習，而在RLHF中，人類的偏好和指導被引入作為獎勵信號，指導模型的訓練，從而增強模型對人類意圖的理解和滿足程度。這種方法允許人工智慧系統在複雜的決策空間中導航，與人類價值觀保持一致，並做出更明智和道德的選擇。RLHF已套用於自然語言處理、推薦系統、機器人和自動駕駛汽車等多個領域。
RLHF的主要步驟包括行為建模、人類反饋集成和強化學習套用。首先定義模型的決策框架，然後創建一個反饋系統讓人類評價者對模型的行為進行評價，這些評價轉化為獎勵信號。最後利用這些獎勵來訓練模型，改善其決策過程。
例如，社交媒體的內容推薦系統可以利用RLHF來避免推送具有偏見或不當內容，從而提高用戶體驗的質量。在預訓練生成模型中，RLHF結合大規模人類偏好數據訓練獎勵模型，鼓勵模型生成排序靠前的答案，有效提升模型性能和用戶體驗。