标签：RLHF
Karpathy观点惹争议：RLHF不是真正的强化学习，谷歌、Meta下场反对
尽管如此，Karpathy也承认RLHF在构建LLM助手方面具有其独特价值，尤其是在利用人类监督的“容易度”差距方面。其他专家，如谷歌研究科学家Kevin Patrick Murphy...
一文看尽LLM对齐技术：RLHF、RLAIF、PPO、DPO……
对齐大型语言模型（LLM）的价值观与人类保持一致是至关重要的，Salesforce发布的一份综述报告全面总结了现有研究文献，并分析了各种对齐技术。大型语言模型（...
OpenAI发布CriticGPT模型，帮助人类找出ChatGPT错误
OpenAI在6月28日推出了一款名为CriticGPT的新型模型，旨在提高开发人员在机器学习领域的工作效率。CriticGPT专为开发人员设计，能够审核ChatGPT生成的代码等...
英伟达开源大模型对齐框架—NeMo-Aligner
随着大语言模型（LLM）如ChatGPT和Midjourney在各个领域的广泛应用，确保其输出内容的安全性和可靠性成为了开发人员面临的重要挑战。传统的监督式微调方法在...
ICLR 2024 | RLHF有了通用平台和基准，天大开源，专攻现实决策场景
Uni-RLHF平台的亮点：- 多反馈类型通用标注平台：支持多种在线环境和离线数据集，具有查询采样器、交互式用户界面和反馈翻译器等功能。- 适用于强化学习的标...
晒应用是一个专注于软件和资源网站分享的导航类网站。我们致力于为用户提供最新、最热门的应用推荐和AI资源，涵盖各种AI绘画、AI制图、AI工具、AI剪辑、AI文本、AI创作、实用工具、免费软件、在线服务和在线影视导航。无论您是寻找最佳的数字工具还是想要了解最新的黑科技应用，晒应用都能满足您的需求。