和一位算法朋友聊了个有意思的话题：ChatGPT的“价值观”从何而来？

和一位算法朋友聊了个有意思的话题：ChatGPT的“价值观”从何而来？不知道大家有没有和我一样的感觉。ChatGPT，有一套很正的价值观：坦诚、客观、尊重每个个体。如果它是人，是个很值得相处的人。但是，它毕竟是个算法，价值观从何而来呢？那位做算法的朋友，正好和开发了ChatGPT的OpenAI团队有过交流。原来，背后的逻辑是这样的——其实，决定每个算法会训练出什么结果的，主要是三个要素：素材、算法技术和目标函数。算法的生产过程，就是机器算法在素材帮助下，对每个问题给出回答。“目标函数”会评价每个回答的结果“好”还是“不好”。算法就会不断去改进，直到“好”的结果越来越多。也就找到了最可能实现“目标函数”的结果。比如，抖音的推荐算法，其目标函数中最关键的变量，就是“让用户更长时间看抖音”。于是，算法就会找出最能取悦用户的结果。抖音的沉迷由此而生。决定了ChatGPT会不会在表达中有价值观、有怎样价值观的，同样是目标函数。这个目标函数的主要构成是“人”。为了评估ChatGPT给出的每个回答“好”还是“不好”。OpenAI有一个合作了多年的评估者团队。与国内对地图、文本做标注的评估团队不同。OpenAI的评估者，不仅仅要掌握评估的技能，还被要求有良好的道德。这些评估者们需要在面试时接受对自身道德标准的全面考核。当他们在评估ChatGPT给出的结果时，并不仅仅会看这个结果逻辑上对不对。还会基于自己的道德标准做出评判。当然，ChatGPT作为如此复杂的算法，实际的评估过程工作量也是巨大的。所以OpenAI也开发了另一个算法，模仿评估团队的评估结果。于是，ChatGPT的道德与价值观，并不来自于任何一个个体。也不来自于一堆被预先写好的参数。而是来自于这一群人的道德。这一群人，就像一个“陪审团”。陪审团的群体价值观，在算法的放大下，成为了ChatGPT的价值观。