和一位算法朋友聊了个有意思的话题：ChatGPT的“价值观”从何而来？

和一位算法朋友聊了个有意思的话题：ChatGPT的“价值观”从何而来？ 不知道大家有没有和我一样的感觉。 ChatGPT，有一套很正的价值观：坦诚、客观、尊重每个个体。 如果它是人，是个很值得相处的人。 但是，它毕竟是个算法，价值观从何而来呢？ 那位做算法的朋友，正好和开发了ChatGPT的OpenAI团队有过交流。 原来，背后的逻辑是这样的 其实，决定每个算法会训练出什么结果的，主要是三个要素： 素材、算法技术和目标函数。 算法的生产过程，就是机器算法在素材帮助下，对每个问题给出回答。 “目标函数”会评价每个回答的结果“好”还是“不好”。 算法就会不断去改进，直到“好”的结果越来越多。 也就找到了最可能实现“目标函数”的结果。 比如，抖音的推荐算法，其目标函数中最关键的变量，就是“让用户更长时间看抖音”。 于是，算法就会找出最能取悦用户的结果。 抖音的沉迷由此而生。 决定了ChatGPT会不会在表达中有价值观、有怎样价值观的，同样是目标函数。 这个目标函数的主要构成是“人”。 为了评估ChatGPT给出的每个回答“好”还是“不好”。 OpenAI有一个合作了多年的评估者团队。 与国内对地图、文本做标注的评估团队不同。 OpenAI的评估者，不仅仅要掌握评估的技能，还被要求有良好的道德。 这些评估者们需要在面试时接受对自身道德标准的全面考核。 当他们在评估ChatGPT给出的结果时，并不仅仅会看这个结果逻辑上对不对。 还会基于自己的道德标准做出评判。 当然，ChatGPT作为如此复杂的算法，实际的评估过程工作量也是巨大的。 所以OpenAI也开发了另一个算法，模仿评估团队的评估结果。 于是， ChatGPT的道德与价值观，并不来自于任何一个个体。 也不来自于一堆被预先写好的参数。 而是来自于这一群人的道德。 这一群人，就像一个“陪审团”。 陪审团的群体价值观，在算法的放大下，成为了ChatGPT的价值观。

我今天看到一个非常有意思的ai赚钱案例。

#内幕消息 我今天看到一个非常有意思的ai赚钱案例。 有一个加拿大的ai艺术家和作家，已经用ai写作和做图并出版了97本书。 9个月的时间赚了2000美元。 他的写书过程也很简单。 就是用gpt和claude来写故事，然后用midjourney为故事配图。 gpt和claude都是目前比较牛逼的ai聊天对话机器人。 而midjourney则是目前非常实用的艺术感超强的绘画工具，十分适合用来制作插图。 看了一下他的几个采访，写的都是短篇小说。 大多在2000-80000字之间。 书卖的售价也不贵，标的价格在1.99-5.99美元之间。 虽然这些书的评价都不高，但是我觉得这个人还是蛮牛逼的。 这个人牛逼在哪里呢？ 1、信息差把握的很好。 他从去年8月份就开始做了，比大部分人做的都早，在ai时代，早就是最大的优势。早一步能让你成为行业的案例，成为别人争相报道的标杆。 2、学习能力很强。 国内现在很多人虽然已经知道ai很牛逼，但是不想学，别说claude了，很多人连套壳的gpt都没玩过。 这个人很快就把ai对话机器人和绘图工具学完并应用起来了。 3、执行力。 还是那句话，执行力决定了结果，他要花3-8个小时写一本书。 从去年到现在，写了79本书，有多少人有这个耐心呢？

【学历，这个东西很有意思】

【学历，这个东西很有意思】 杭州Top项目亚运村跌价，白酒Top茅台跌价，学历Top斯坦佛博士回国考基层公职…… 连起来看，感觉也不那么意外了，潮水落了才发现都在裸泳。 公司减员，锦上添花的岗基本全撤了，最后留下的基本都是主营业务相关的，要么搞生产的，要么搞销售的。 一堆人来面试，一个比一个能吹，老板就问一个问题：能给公司拉来订单不？ 能拉到就证明你很厉害，拉不到单子履历再好也没用。 就像闹饥荒的年代，人们就看谁能找到吃的，虽然有人钢琴弹得好，唱歌唱得好，但这不是当前人们需要的。 经济不振的年头，很多过去吃香的都面临180度转弯，尤其是那些看不见摸不着，平时用来撑面子的东西，而不能撑里子的东西。 尤其是学历，这个东西很有意思。 经济好的时候，学历差的大部分混的也不错，毕竟到处都是招人的。 经济差的时候，学历好的也混的一般，都不想招人。 也就是说经济在两个极端的时候，学历带来的差异最小。 不然大家想想，2000年前后很多家庭根本不那么重视学习，初中不读了直接去找活儿的，混的其实也很好，不亚于大学毕业的。 学历差异最大的时候，其实是经济温和的时候，缺人但缺的不多，单位挑挑拣拣。 现在面临毕业的名牌毕业生们，就业阶段的打击都会不小，现实对他们父母在近20年形成的学历认知，也将完全颠覆。 不由得想起达尔文的进化论，适者生存。 大恐龙在适合它的环境中是厉害，但环境一旦变化，其实还不如一只老鼠。 做个有韧性的人，人的价值大小其实根本不取决于自己，而是取决于，不断发展变化的外部需求啊。

一个有意思的八卦：

#内幕消息 一个有意思的八卦： 张小龙当年是看到了一个kik的应用才开始在广州搞微信的； 而kik的创始人chris best后来因为张小龙公众号的启发做了substack 他们俩到底有没有见过我磕到了

创须易: 别的地方看到的，，感觉还蛮有意思的

创须易: 别的地方看到的，，感觉还蛮有意思的 OO: 659 XX: 52 蛋友24ca83c4713c: 大项目带动高级白酒消费，这个逻辑貌似很有道理哦 OO: 392, XX: 3 蛋友24cb74c8e75a: @蛋友16fe9256cab9e 外星人来了不得尝尝茅台啊 继续利好 OO: 191, XX: 1 蛋友16fe9256cab9e: 其实我最近还是挺关心美国官方说有外星人这事 OO: 149, XX: 8 lazycrazy: 经济蛇形走位也是利好茅台，稳如狗 OO: 100, XX: 1 蛋友24cb621e6012: 白酒兴国，马斯克能喝几杯 OO: 43, XX: 0 ugahaha: @蛋友16fe9256cab9e 听证会一个重点是爆了挪用国会批的预算去“研究外星人”，国会很生气。我想外星人这是事怕不是为了这点醋才包了饺子哦 OO: 24, XX: 0 小连: @蛋友24cb74c8e75a 外星人来了尝白酒？拿来泡白酒！ OO: 10, XX: 0

今天的hacker news第2个热点非常有意思：）值得大家一看：

今天的hacker news第2个热点非常有意思：）值得大家一看： LMSYS Org这个组织最近开放了Chatbot 领域的“混聊大内斗”，并每周都公开排行榜。 竞技模式：他们把所有授予他们API接口的模型放到一块，每个模型随机匹配到与其它模型进行聊天对话。这些对话采用的是自然语言，而不是预定义的对话集合。在每次对话结束后，旁观的用户、开发者等等可以对两个参与对话的模型进行投票，以表达他们对这两个模型表现的偏好。 投票是匿名的，每个用户只能对同一对话投一次票。投票结果被用来计算 Elo 评分，Elo 评分越高的模型被认为是更强大的语言模型。 图一：4月24日至5月24日之间的投票结果，投票人数27k（清华大学的开放式双语对话语言模型排16，这个排行榜仅限于授权给这个团队API权限的模型里）。 图二：所有非平局 A 对 B 战斗中，模型 A 获胜比例 排行榜的下半部分团队着重提了他们重点观察的Google PaLM 2模型，我总结了一下大概这么几个点： 1）总体情况还可：在过去的两周里，PaLM 2 与其他 16 个聊天机器人进行了约 1.8k 次匿名对战，目前在排行榜上排名第 6。除了 Vicuna-13B（Vicuna 的 Elo 分数比 PaLM 2 高 12 分，即 Vicuna 1054 vs. PaLM 2 1042，根据 ELO 分数来看几乎是虚拟平局）之外，它在所有开源聊天机器人中排名最高。 2）遇强则强，遇弱则弱，好似某个红衣球队，名字我不提：PaLM 2 在与前 4 名选手（即 GPT-4、Claude-v1、ChatGPT、Claude-instant-v1）对战时表现更好，与 Vicuna 的对战中赢得了 53% 的比赛，但在与实力较弱的选手对战时表现较差。 3）觉悟较高：PaLM 2 似乎受到的监管比其他模型更为严格。在许多用户对话中，当用户提问 PaLM 2 不确定或不适合回答的问题时，PaLM 2 比其他模型更可能选择不回应。下面这个数据made my day：在所有成对对战中，PaLM 2 由于拒绝回答而输掉了 20.9% 的对战，并且由于拒绝回答而输给不属于前四名（GPT-4，Claude-v1，ChatGPT，Claude-instant-v1）的聊天机器人 30.8% 的对战。