资料下载
×
从零开始谈ChatGPT
消耗积分:0 |
格式:pdf |
大小:2.66 MB |
2023-02-15
杨丽
分享资料个
那如何才能得到一个ChatGPT呢？
首先我们需要一个具备各种能力（潜力）的LLM，所以它要足够大，训练的足够好。OpenAI 大概率也是为此重新训练了一个GPT-3 模型（GPT-3.5），主要论据为：1.原始GPT-3 175B和复现GPT-3 的OPT-175B 都没有CoT能力，而GPT-3.5 有CoT；2.原始的GPT-3 的窗口只有2048，而其对应的是绝对位置编码，现在的GPT-3.5最大窗口为8192。3.原始的GPT-3 不能写代码，现在的可以。
声明：本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人，不代表电子发烧友网立场。文章及其配图仅供工程师学习之用，如有内容侵权或者其他违规问题，请联系本站处理。 举报投诉
评论(0)
发评论
- 相关下载
- 相关文章
