大模型开不开源，硅谷大佬激辩： 一方谈科学进步 另一方提国家安全

大模型开不开源，硅谷大佬激辩：一方谈科学进步另一方提国家安全安德森等人强烈支持开源人工智能，他们认为共享知识是科学进步的关键，提高透明度能够防止大公司垄断这项革命性技术。而科斯拉等闭源人工智能的支持者认为，让私营部门掌握人工智能技术，是防止滥用和潜在风险的有效方法。开源人工智能意味着技术将对公众免费开放，以促进共同的建设和分享。而闭源或专有人工智能则被其创作者控制，不对外公开。尽管二者看似对立，实则可以和谐共存。例如，许多公司在开源代码的基础上发展出自有的专有系统。此场辩论起因于特斯拉CEO埃隆·马斯克（ElonMusk）对OpenAI及其CEO萨姆·奥特曼（SamAltman）的起诉，凸显了人工智能的部署和安全问题的复杂性，特别是在监管机构、大型科技公司和科学家等对人工智能的发展边界和速度仍在探索时，想要找到明确的答案何其艰难。在人工智能是否应该开源的争论中，身处漩涡中心的科技巨头们已经明确了各自的立场。Meta坚定支持开源人工智能，发布了Llama2模型供全球开发者使用和改进。紧随其后的是法国MistralAI，发布了具有开放“权重”的模型，即模型运作的核心参数。然而，行业领头羊OpenAI和Anthropic采取了完全不同的策略，他们提供的是闭源人工智能模型，并坚持把技术牢牢控制在自己手中。在这场辩论中，安德森于上周六通过社交媒体X发帖。他指责科斯拉正在“游说禁止开源”。这发生在科斯拉公开支持OpenAI及其CEO奥特曼之后。而他的支持是在马斯克对OpenAI提起诉讼之后表达的；马斯克指责奥特曼和OpenAI违背了公司创立时的原则，把追求利润放在了开源人工智能之前。作为科斯拉风投公司（KhoslaVentures）的创始人，科斯拉不仅支持OpenAI的盈利性业务，还声称，人工智能就如同核武器一旦开源将可能威胁到国家安全。他甚至引用了OpenAI首席科学家伊利亚·苏茨凯弗（IlyaSutskever）的话说，“不分享科学也是完全可以的。”科斯拉风投公司的一位发言人进行了解释。他说，科斯拉确实曾支持开源技术。然而，科斯拉现在认为，大型人工智能模型“关乎国家安全和技术”优势，这些模型需要得到严密保护，不应轻易开源。安德森所在的安德森-霍洛维茨（AndreessenHorowitz）风投公司对此次开源与闭源的辩论保持缄默，对评论请求没有给出回应。双方虽立场对立，但均认同一个观点：驱动ChatGPT等AI工具的大语言模型仍处于成长阶段。ChatGPT与其他人工智能工具面临的问题众多，包括产生幻觉性输出、偏见性结果，甚至有潜力输出有害或攻击性内容。此外，这些模型的应用和训练成本高昂，还会消耗大量能源。开源支持者认为，正是这些技术的未成熟，更加凸显了开源的重要性。他们认为，只有在科学家和学者组成的开放的科研社区内，才能排除商业利益的干扰，共同推进通用人工智能的发展，最终实现机器能够如同人类一样学习和思考。艾伦人工智能研究所（AllenInstituteforAI）的首席执行官阿里·法哈迪（AliFarhadi）表示：“我们现在正处在一个关键节点，大规模部署了一项我们尚未完全理解的技术，也不知道如何有效控制这些系统。”该研究所由已故微软联合创始人保罗·艾伦（PaulAllen）于2014年创立，是一个致力于人工智能研究的非营利机构。法哈迪及其他支持开源的人士强调，共享研究成果是科学界的长久传统。人工智能的发展不是从2017年谷歌分享的“转换器”（Transformer，GPT中的T）模型开始的，其背后有更深远的历史。同时，一些美国议员则支持科斯拉的观点，他们担心自由分享的人工智能技术可能落入国外竞争对手手中，因此认为应该加以保护。许多主张闭源的人工智能公司也持有相似立场，认为这种技术可能对人类生存构成威胁，可能带来灾难性后果。奥特曼也强调，OpenAI高度重视其在开发人工智能方面的安全责任，坚信应该小心谨慎。他同时承认，人工智能为企业带来了巨大商业机会。回顾历史，软件行业的开源运动，自Linux等项目兴起后蓬勃发展，为当前开放与封闭的辩论提供了丰富的历史借鉴。开源软件已成为包括云计算在内的众多技术领域的基石，其商业化甚至促成了亚马逊等科技巨头的诞生。然而，开源软件也面临着网络安全挑战，因为任何人都能轻易下载和修改代码。专家们指出，封闭和开源技术并不是相互排斥的，两者可以并行发展。Meta负责生成人工智能的副总裁艾哈迈德·达勒（AhmadAl-Dahle）就认为，把开源和封闭视为二选一的对立选择是误导，实际上两者各有其发展空间。人工智能初创公司AI21的联合创始人兼联席CEO奥里·戈申（OriGoshen）也分享了相似观点，他认为，“开源在人工智能领域扮演着至关重要的角色。即便是像AI21这样的专有供应商，其基础模型最终也可能开源，商业价值将来源于独特的知识产权。”...PC版：https://www.cnbeta.com.tw/articles/soft/1422899.htm手机版：https://m.cnbeta.com.tw/view/1422899.htm