据澎湃新闻,MOSS与ChatGPT相比,有哪些主要差异?复旦大学计算机科学技术学院邱锡鹏团队表示,最大差异还是参数规模。ChatGPT的参数量多达1750亿个,而MOSS的参数量比其小一个数量级,大约是前者的1/10左右。
我们选择百亿规模这样级别的参数,是因为学术界主要是做一些探索性的技术,这个规模也在财力物力承受范围之内。我们认为在这个参数级别上,这些模型也能涌现出一定的智能能力,我们也能赋予它们对话的能力。实验结果证实了我们的猜想,MOSS模型可以非常顺利地与人类进行聊天互动。
据澎湃新闻,MOSS与ChatGPT相比,有哪些主要差异?复旦大学计算机科学技术学院邱锡鹏团队表…
据澎湃新闻,MOSS与ChatGPT相比,有哪些主要差异?复旦大学计算机科学技术学院邱锡鹏团队表示,最大差异还是参数规模。ChatGPT的参数量多达1750亿个,而MOSS的参数量比其小一个数量级,大约是前者的1/10左右。
我们选择百亿规模这样级别的参数,是因为学术界主要是做一些探索性的技术,这个规模也在财力物力承受范围之内。我们认为在这个参数级别上,这些模型也能涌现出一定的智能能力,我们也能赋予它们对话的能力。实验结果证实了我们的猜想,MOSS模型可以非常顺利地与人类进行聊天互动。