今天想来聊聊在这次ChatGPT浪潮中我有哪些判断的原则并且这些原则是根据哪些事实来判断的,括号是我判断需要的背景信息。
今天想来聊聊在这次ChatGPT浪潮中我有哪些判断的原则并且这些原则是根据哪些事实来判断的,括号是我判断需要的背景信息。1.如果一个人离开一线6年并且没有跟进,那么他关于ChatGPT的言论基本没有参考价值。(Transformer推出距离现在大约6年左右的时间,ChatGPT推出大概半年的时间。6年的时间差不多是一个理工科直博或者PHD毕业的平均时间,一般都要延毕或者为了教职也需要更多年限做工作,这如果一个直博春季入学此时Transformer还没有推出到毕业预答辩ChatGPT刚好推出,6年时间已是沧海桑田)2.Title看上去专业的人不一定真的专业(有过科研经历的人都知道,专业其实分为大同行和小同行,大同行之间可以认为只有相同的本科知识基础,比如一个计算机博士看上去应该对ChatGPT看法非常权威但是可能都不是AI方向的是操作系统的,一个AI方向的博士看上去对ChatGPT看法非常权威但是可能是CV方向的没有做过NLP更没有训练过大模型)3.任何一个新技术的反对者最主要的不是ta的结论而是ta关于这个技术的局限性思考(比如LeCun因为反对GPT为代表的自回归模型被嘲讽的厉害,认为这个技术路线是没有前途的应该用世界模型。这个应该研究世界模型的结论其实不重要,但是他说的自回归模型不可避免的会因为生成内容变长而准确率下降的局限性却是值得关注,事实也确实如此只能改善不能解决。)暂时先分享这三点,希望有所启发。