控制AI最有效的方法也许是植入"奴性"？或者是"好奇心"？

控制AI最有效的方法也许是植入"奴性"？或者是"好奇心"？ 计算神经网络是一种模仿生物大脑神经网络构建的模型，几十年以来，人们发现仅靠模仿人类大脑的架构就能拥有与人类相似的能力。虽然还不知道具体原因，但这已经成就了今天的AI技术，从 ChatGPT 到 Midjourney 再到谷歌搜索都是计算神经网络。 AI拥有情感和AI毁灭世界一直是科幻作品的重要组成部分，如今前者已成现实后者备受关注。在 munk 辩论会"AI研发是否对人类文明构成威胁"上，深度学习三巨头之二 Yann LeCun、Yoshua Bengio 等业内领袖展开了激烈讨论。LeCun 了一个颇具科幻哲学意味的方案: "令人惊讶的是，这些AI会有情绪，会有同理心，类似于人类的种种情感，而这将是控制它们的方法。我们可以将服从植入其中。" 从家宠到牲畜，虽然利用和培养天性已然成为人类社会的一部分，但当科技演绎"潘多拉的起源"时还是难免让人感到惊奇。说到潘多拉，马斯克与 xAI 就以植入好奇心为方案，他们认为最安全的方式是构建一个拥有极度好奇心和追求真相的AI，因为这是人类的特性。