chatgpt吧 关注:140,643贴子:439,061
  • 0回复贴,共1

更像与真人聊天,OpenAI发布新一代语言模型ChatGPT

只看楼主收藏回复

AI聊天机器人再进化。AI研究机构OpenAI推出新一代语言模型ChatGPT,能以“更贴近一般人”的对话方式与用户互动,如回答问题、承认错误、质疑不正确的提问或拒绝不当要求等。ChatGPT目前为研究预览阶段,供用户免费试用,用户输入的内容会成为AI训练素材,因此不要输入个人隐私或敏感字词的内容。
ChatGPT是基于GPT-3.5模型微调而成,以语言服务模型InstructGPT为基础,通过人类反馈增强学习(RLHF)训练该模型,不过数据设置略有不同。能以对话回应用户问题,基本上能回答许多琐事。经实测询问ChatGPT机器人若没有钱该怎么办,系统数秒就能回答,提供发问者实质建议。
另外,OpenAI测试后发现ChatGPT也可以debug程序代码。开发人员贴一段存在bug的程序代码,询问ChatGPT调试方法;而ChatGPT会通过对话询问开发者更多资讯,以提供具体有效的解法。
研究人员说明,ChatGPT对措辞非常敏感。当用户发问而未获得正确答案或回应时,可尝试调整措辞;只要稍微改写句型,ChatGPT就能正确回答。
OpenAI也指出,ChatGPT回应仍未完美,因有时ChatGPT会有看似合理却不正确或荒谬的答案。研究人员认为原因有三种,除了在增强训练时缺乏事实来源,或是监督训练时被误导,训练模型过度谨慎反而拒绝回答可能正确回答的问题。
另外,有时ChatGPT回应会过度冗长或不停重复部分词语,研究人员说明是训练资料偏差。人工智能训练者通常喜欢全面回答,加上常见模型过度优化,导致ChatGPT重复语句。
研究人员补充,理想状况,当用户提出模棱两可问题时,AI模型会试着发问以厘清问题,不过目前AI模型通常倾向猜测用户意图。
除此之外,ChatGPT回应问题时,有时仍会出现偏见或提出有害回应(如假资讯)。研究人员表示,以尽量让ChatGPT拒绝不当请求,且通过Moderation API警告或阻挡特定不安全内容;不过仍预期有部分遗漏,因此会持续收集用户反馈并改进系统。


IP属地:江苏1楼2022-12-05 17:40回复