资料下载
×
InstructGPT与ChatGPT的学习与解读
消耗积分:0 |
格式:pdf |
大小:0.78 MB |
2023-02-13
王敏
分享资料个
相比于GPT，2022年初推出的InstructGPT在某种程度上更像是ChatGPT的“直系前辈”。因为InstructGPT大量的使用到了人类反馈与指导，在大力出奇迹的GPT3的基础上，更加的进一步精调，使得 InstructGPT的输出更加的可控，也就是跟人类习惯更加贴近了。
对于这项工作，OpenAI 表示：“我们成功训练出了在遵守用户意图方面比 GPT-3 显著更强的新语言模型，并且同时确保这些模型更加诚实，减少了有害结果的生成。具体来说，我们采用了在对齐 （alignment） 研究当中掌握的技术，使得这些训练结果成为可能”。
新的模型名为 InstructGPT（instruct 是指导的意思），意即和一般模型训练的自我监督模式不同，这次在新模型的训练当中，OpenAI 重度使用了人类作为“教师”的身份，对模型训练进行反馈和指导。从人类反馈中进行强化学习的过程，称为reinforcement learning fromhuman feedback，简称 RLHF。这个也是使ChatGPT变得特殊的秘密武器（也许~）。
声明：本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人，不代表电子发烧友网立场。文章及其配图仅供工程师学习之用，如有内容侵权或者其他违规问题，请联系本站处理。 举报投诉
评论(0)
发评论
- 相关下载
- 相关文章
