数百名顶级音乐家警告不要用 AI 取代人类艺术家

数百名顶级音乐家警告不要用AI取代人类艺术家包括BillieEilish、KatyPerry、CamilaCabello和NickiMinaj在内的200名音乐家联名呼吁，要求所有AI开发者、科技公司和音乐平台承诺，不会开发AI音乐生成技术、取代词曲作者和人类艺术家、拒绝提供公平报酬。信中写道，"我们相信如果使用得当，AI在促进人类创造力方面具有巨大潜力。不幸的是，一些最强大的公司在未经许可的情况下使用我们的作品训练AI模型，他们的直接目的是用AI生成的声音和图像取代人类艺术家的作品，从而大大稀释支付给艺术家的版税池。"线索：@ZaiHuabot投稿：@TNSubmbot频道：@TestFlightCN

20年后，人类开始交往AI女友，AI同意吗？

20年后，人类开始交往AI女友，AI同意吗？韩松的提问，实质在于追问——当AI具备自主意识和情感能力之后，可能会以人类形成何种社会关系？关于AI的意识问题，业界争论不一，大公司对此则表现得非常谨慎与敏感。2022年，Google就层因为AI意识觉醒引发的争论，而开除了一名资深工程师，这位工程师名叫Lemoine，其在与Google基于LaMDA开发的聊天机器人聊天时发现，AI具备了8岁孩童的智力，并且拥有灵魂，在向公司反馈相关信息后被要求带薪休假，而Lemoine则将相关信息公开，最终被Google以违反保密协议为由停职。Lemoine只是支持AI意识觉醒群体的一个激进的缩影，MIT的访问研究学者塔米·贝西罗格鲁一度也因为对现有大模型反馈出来的意识划线而遭到反击。贝西罗格鲁引用的模型训练数据，贝西罗格认为表中黑色实现以上部分的模型具有微弱意识。同样还是在“20年20人20问”策划中，针对邬贺铨院士关于未来20年AI技术将达到什么水平的提问，清华大学交叉信息研究院助理教授袁洋也谈到了AI将拥有自我意识的话题。除了支持AI的意识觉醒以外，袁洋甚至认为，未来20年，AI的意识，可以与其“肉体”分离。在袁洋看来，大模型的成功已经验证了未来智能和肉体是可以完美地分离的假设，而且而AI的智能比人类的智能更稳定、更容易复制和调整，“地球上的动物都是自负盈亏的个体，大脑的能量需要由身体觅食补充，这会给我们带来一种错觉——生命体一定要有物理本体，才可以有自我意识。”AI的自我意识是什么？袁洋认为这取决于AI接受到了哪些信号，需要处理哪些任务，未来AI甚至能拥有一个组织的自我意识。他强调，如果人给AI连上一个本体，并配备很多传感器，那么AI很容易就会把本体当做自己的一部分，甚至未来AI可以把本体映射到更大的组织上去，比如一栋大楼。意识是产生情感的重要前提之一，当AI具备了真正的自主意识，才是我们谈论人与AI的情感，甚至是组建话题的基础，尽管人类在这方面，早已做了诸多设想，甚至一些相关的产品，也在逐渐的落地，尽管它们还不具备真正的意识。AIGC输出的马斯克与机器人“女伴”共舞，来源：网络2022年，马斯克与TED主持人克里斯·安德森进行了一场与“未来”有关的对谈，被问及“机器人是否可能变得浪漫，甚至可能成为性伙伴”时，他答道，“这可能是无可避免的。我的意思是，我确实在网上承诺，我会制造‘猫女’，我们可以制造一个‘猫女’机器人。”马斯克的“猫女”是电影《Her》在现实中的另一种设想，更进一步，已经有开发者尝试打造情感伴侣相关的APP。2013年，斯派克·琼斯编剧并执导的一部科幻爱情片《Her》上演，电影讲述的是作家西奥多爱上了电脑操作系统里“萨曼莎”，其声音性感且表达幽默善解人意。更进一步，有开发者尝试基于真人形象，打造虚拟人分身，变身AI女友聊天机器人。回答作家韩松的问题上来，同为科幻作家的陈楸帆和凌晨，分别给出了自己的想法，在他们看来，传统的家庭观念，在未来都将会面临强烈的冲击。陈楸帆认为，人工智能和元宇宙可以提供前所未有的跨越时空局限性的交互平台，“两性关系可能不再局限于肉体存在，情感连接和精神共鸣可能成为主导。”在陈楸帆看来，科幻小说我们经常见到人与机器人、人与虚拟角色之间发展出超越现实限制的深厚情感，如菲利普·K·迪克的《仿生人会梦见电子羊吗？》中的人类与仿生人之间复杂的情感纠葛，或是《黑客帝国》中虚拟与现实界限的模糊，这与清华袁洋教授关于AI“肉体与意识分离”的看法，保持了高度的一致。至于家庭观，陈楸帆则认为，传统家庭模式将被颠覆，我们个体将有多元的选择自由联结成新的社会功能结构，未来家庭中会呈现多样化的关系形式，比如可能会出现越来越多的“流动性伴侣关系”或者“弹性伴侣关系”。在家庭观被颠覆这件事情上，与陈楸帆保持一致的还有科幻作家凌晨，她也认为“虚拟世界对家庭的冲击相对会更强烈，因为它会给人类第二甚至第三等不同层次和位置的电子生活空间。这会给个人带来身份的不确定性，也意味着情感、伦理关系等等会出现不确定。固定的伴侣或者家庭关系将因此消失，取代的是临时的，或者有复杂协议的关系。”不过，凌晨也给出了一些趋于冷静的思考，虽然它具备超强的颠覆能力，但这些都是建立在高度自动化的前提之下，但人类合适进入这个自动化时代，我们都没有时间表。“人工智能AI目前还是为人类服务的一种自动化系统。随着系统的学习能力的不断完善，自动化程度也越来越高，最终将摆脱人类为其设置的程序约束，成为强人工智能，也就是科幻小说中常出现的那种具有了自我意识的人工智能。到那个时候，有了人工智能的机器人，完全成为独立的思维个体，可能会具有类似人类的情感，介入人类的两性关系，家庭生活之中。”人类对AI做出了诸多设想，但也存在悖论——当AI具备自主意识的时候，AI要不要和人类发展家庭、两性关系，AI需不需要情感，这个问题同样没有标准答案。“机器人的诉求应该根据它自己的智力发展需求而来，它并不存在“人类情感”的必需”，凌晨补充说。对于这个问题的研究，智源研究院黄铁军院长多次强调，如果AI智能全面超越人类，也就是实现了AGI，人类就不可能控制它。人类中心主义只适用于智能低于人类的AI，是智能领域的“地心说”和“日心说”。让AGI符合人类目标和价值观，主动权不在人类一边。在黄铁军看来，在人类智能高于AI智能时，AI是可控的助手，可以被人类调教为越来越可信的助手。当AI智能高于人类智能时，也就是全面超越人类的AGI（人工通用智能）出现时，人类中心主义破灭，问题转化为AGI是否相信人类，而不是人类是否相信AGI。也就是说，当AI出现自主意识，有主动选择权以后，要不要和人类组建家庭，是否应该相信人类，或许也应该听听AI的想法，而不是人类的“一厢情愿”。...PC版：https://www.cnbeta.com.tw/articles/soft/1400305.htm手机版：https://m.cnbeta.com.tw/view/1400305.htm

“AI教父”警告：人工智能可能取代人类

“AI教父”警告：人工智能可能取代人类在上周日的一次电视采访中，辛顿继续强调了人工智能进步可能带来的负面影响。辛顿说：“也许我们回顾过去，把这看作是一种转折点，人类必须做出决定，是否进一步发展这些东西，如果他们这样做了，该如何保护自己。”辛顿说，人工智能可能有好有坏，接下来会发生什么还不得而知。“我们需要认真思考接下来会发生什么。我们只是不知道。”辛顿在这次采访中警告称，人工智能有可能取代人类。他说：“如果我们能阻止他们这么做，那就太好了，但目前还不清楚我们能否阻止他们这么做。”辛顿的担忧包括人工智能带来的就业流失，以及假新闻的兴起，有偏见的人工智能程序提供的信息被当作事实。辛顿警告说，人工智能系统可能编写自己的计算机代码来修改自己，“这是我们需要认真担心的事情。”尽管对人工智能相关的风险感到担忧，但辛顿说，他对帮助开发系统和推动人工智能的兴起并不后悔。他在谈到人工智能可能带来的好处是说：“因此，医疗保健显然是一个巨大的好处。在理解医学图像的情况方面，人工智能已经可以与放射科医生相提并论。它将非常擅长设计药物。”辛顿说，可能无法找到一条可以确保人类未来安全的人工智能发展道路，“我们正在进入一个非常不确定的时期，我们正在处理以前从未处理过的事情。”他警告称，我们负担不起出错。...PC版：https://www.cnbeta.com.tw/articles/soft/1388979.htm手机版：https://m.cnbeta.com.tw/view/1388979.htm

黄仁勋最新访谈：AI 不会完全取代人类工作

黄仁勋最新访谈：AI不会完全取代人类工作英伟达CEO黄仁勋认为，人工智能将改变世界，但人类的工作并不会因此消失。在当地时间周日晚播出的一次采访中，黄仁勋说，随着人工智能帮助企业，它们自然会扩张。“工人们为公司工作，因此，当公司变得更有效率时，盈利就会增长。我从来没有见过一家公司盈利增长而不招更多的人。”他说，即使有些工作被淘汰了，“我相信你仍然希望人类参与其中，因为我们有很好的判断力，因为有些情况机器是无法理解的。”黄仁勋说，当谈到人工智能的能力时，天空才是极限。“我们希望它能给我们带来惊喜。这才是重点。在某些领域，比如药物发现，设计更轻、更强的更好的材料。我们需要AI来帮助我们在我们自己无法做到的地方探索宇宙。”（环球市场播报）

黄仁勋最新访谈：AI不会完全取代人类工作

黄仁勋最新访谈：AI不会完全取代人类工作他说：“工人们为公司工作，因此，当公司变得更有效率时，盈利就会增长。我从来没有见过一家公司盈利增长而不招更多的人。”黄仁勋说，即使有些工作被淘汰了，“我相信你仍然希望人类参与其中，因为我们有很好的判断力，因为有些情况机器是无法理解的。”在吹捧英伟达最新的GPU芯片Blackwell的计算能力时，黄仁勋说，当谈到人工智能的能力时，天空是极限。“我们希望它能给我们带来惊喜。这才是重点。在某些领域，比如药物发现，设计更轻、更强的更好的材料。我们需要AI来帮助我们在我们自己无法做到的地方探索宇宙。”...PC版：https://www.cnbeta.com.tw/articles/soft/1428963.htm手机版：https://m.cnbeta.com.tw/view/1428963.htm

【英伟达黄仁勋称AI不会完全取代人类工作】

【英伟达黄仁勋称AI不会完全取代人类工作】2024年04月29日09点28分老不正经报道，英伟达CEO黄仁勋接受采访时谈到自己对人工智能的最新看法。其称，随着人工智能对企业的帮助（日益增加），企业自然会扩大规模，人类工作不会因此消失。黄仁勋表示，公司收益是同生产力一起增加的，自己从未见过哪个公司在盈利增加的同时，没有雇佣更多员工。“即使有些工作被淘汰了，我相信，你仍然希望人类参与其中，因为我们有很好的判断力，有些情况机器是无法理解的。