来源丨机器之心（ID：almosthuman2014）题图丨摄图网「我们没有护城河，OpenAI 也没有。」在最近泄露的一份文件中，一位谷歌内部的研究人员表达了这样的观点。这位研究人员认为，虽然表面看起来 OpenAI 和谷歌在 AI 大模型上你追我赶，但真正的赢家未必会从这两家中产生，因为一个第三方力量正在悄然崛起。这个力量名叫「开源」。围绕 Meta 的 LLaMA 等开源模型，整个社区正在迅速构建与 OpenAI、谷歌大模型能力类似的模型，而且开源模型的迭代速度更快，可定制性更强，更有私密性……「当免费的、不受限制的替代品质量相当时，人们不会为受限制的模型付费。」作者写道。这份文件最初由一位匿名人士在公共 Discord 服务器上分享，获得转载授权的产业媒体 SemiAnalysis 表示，他们已经验证了这份文件的真实性。这篇文章在推特等社交平台上得到了大量转发。其中，得克萨斯大学奥斯汀分校教授 Alex Dimakis 发表了如下观点：开源 AI 正在取得胜利，我同意，对于全世界来说，这是件好事，对于构建一个有竞争力的生态系统来说也是好事。虽然在 LLM 领域，我们还没有做到这一点，但我们刚刚让 OpenClip 击败了 openAI Clip，并且 Stable Diffusion 比封闭模型更好。
你不需要庞大的模型，高质量的数据更有效、更重要，API 背后的羊驼模型进一步削弱了护城河。
你可以从一个好的基础模型和参数高效微调（PEFT）算法开始，比如 Lora 在一天内就能运行得非常好。算法创新终于开始了！
大学和开源社区应该组织更多的工作来管理数据集，训练基础模型，并像 Stable Diffusion 那样建立微调社区。
当然，并非所有研究者都同意文章中的观点。有人对开源模型是否真能拥有媲美 OpenAI 的大模型的能力和通用性持怀疑态度。
不过，对于学术界来说，开源力量的崛起总归是件好事，意味着即使没有 1000 块 GPU，研究者也依然有事可做。
以下是文件原文：谷歌、OpenAI 都没有护城河我们没有护城河，OpenAI 也没有。我们一直在关注 OpenAI 的动态和发展。谁将跨越下一个里程碑？下一步会是什么？但令人不安的事实是，我们没有能力赢得这场军备竞赛，OpenAI 也是如此。在我们争吵不休的时候，第三个派别一直在渔翁得利。这个派别就是「开源派」。坦率地说，他们正在超越我们。我们所认为的那些「重要的待解决问题」如今已经被解决了，而且已经送到了人们的手中。我举几个例子：能在手机上运行的大型语言模型：人们可以在 Pixel 6 上运行基础模型，速度为 5 tokens / 秒。
可扩展的个人 AI：你可以花一个晚上在你的笔记本电脑上微调一个个性化的 AI。
负责任的发布：这个问题与其说是「被解决了」，不如说是「被忽略了」。有的网站整体都是没有任何限制的艺术模型，而文字也不例外。
多模态：目前的多模态科学 QA SOTA 是在一个小时内训练完成的。
虽然我们的模型在质量方面仍然保持着轻微的优势，但差距正在以惊人的速度缩小。开源模型的速度更快，可定制性更强，更有私密性，而且在同等条件下能力更强大。他们正在用 100 美元和 130 亿的参数做一些事情，而我们在 1000 万美元和 540 亿的参数上却很难做到。而且他们在几周内就能做到，而不是几个月。这对我们有深远的影响：我们没有秘密武器。我们最大的希望是向谷歌以外的其他人学习并与他们合作。我们应该优先考虑实现 3P 整合。
当免费的、不受限制的替代品质量相当时，人们不会为受限制的模型付费。我们应该考虑我们的附加值到底在哪里。
巨大的模型拖慢了我们的速度。从长远来看，最好的模型是那些可以快速迭代的模型。既然我们知道 200 亿以下参数的模型能做什么，那我们应该在一开始就把它们做出来。
LLaMA 掀起的开源变革三月初，随着 Meta 的 LLaMA 模型被泄露给公众，开源社区得到了第一个真正有用的基础模型。该模型没有指令或对话调整，也没有 RLHF。尽管如此，开源社区立即把握住了 LLaMA 的重要性。随之而来的是源源不断的创新，主要进展出现的间隔只有几天（如在树莓派 4B 上运行 LLaMA 模型、在笔记本上对 LLaMA 指令微调、在 MacBook 上跑 LLaMA 等）。仅仅一个月之后， 指令微调、量化、质量改进、多模态、RLHF 等变体都出现了，其中很多都是在彼此的基础上构建的。最重要的是，他们已经解决了规模化问题，这意味着任何人都可以自由地修改和优化这个模型。很多新想法都出自普通人。训练和实验门槛已经从主要研究机构下放到一个人、一个晚上和一台功能强大的笔记本电脑。
LLM 的 Stable Diffusion 时刻从很多方面来说，任何人都不应该对此感到意外。开源 LLM 当前的复兴紧随图像生成的复兴出现，很多人称这是 LLM 的 Stable Diffusion 时刻。在这两种情况下，低成本的公众参与是通过一种成本低得多的低秩适应（low rank adaptation, LoRA）微调机制实现的，并结合了 scale 上的重大突破。高质量模型的易得帮助世界各地的个人和机构孕育了一系列想法，并让他们得以迭代想法，并很快超过了大型企业。这些贡献在图像生成领域至关重要，使 Stable Diffusion 走上了与 Dall-E 不同的道路。拥有一个开放的模型促成了 Dall-E 没有出现的产品集成、市场、用户界面和创新。效果是显而易见的：与 OpenAI 解决方案相比，Stable Diffusion 的文化影响迅速占据主导地位。LLM 是否会出现类似的发展趋势还有待观察，但广泛的结构要素是相同的。谷歌错过了什么？开源项目使用的创新方法或技术直接解决了我们仍在努力应对的问题。关注开源工作可以帮助我们避免重蹈覆辙。其中，LoRA 是功能极其强大的技术，我们应当对其投入更多的关注。LoRA 将模型的更新展现为低秩因式分解，能够使更新矩阵的大小缩减几千倍。如此一来，模型的微调只需要很小的的成本和时间。将在消费级硬件上对语言模型进行个性化调整的时间缩减至几个小时非常重要，尤其是对于那些希望在近乎实时的情况下整合新的、多样化知识的愿景而言。虽然该技术对一些我们想要完成的项目有很大影响，但它并未在谷歌内部得到充分的利用。LoRA 的神奇力量LoRA 如此高效的一个原因是：就像其他形式的微调一样，它可以堆叠。我们可以应用指令微调等改进，帮助完成对话、推理等任务。虽然单个微调是低秩的，当它们的总和并不是，LoRA 允许对模型的全等级更新随着时间的推移积累起来。这意味着，随着更新更好数据集和测试的出现，模型可以低成本地保持更新，而不需要支付完整的运行成本。相比之下，从头开始训练大模型不仅丢掉了预训练，还丢掉了之前进行的所有迭代和改进。在开源世界中，这些改进很快就会盛行起来，这让全面重新训练的成本变得非常高。我们应该认真考虑，每个新应用或想法是否真的需要一个全新的模型。如果我们真的有重大的架构改进，排除了直接重用模型权重，那么我们应该致力于更积极的蒸馏方式，尽可能保留前一代功能。大模型 vs. 小模型谁更具有竞争力？对于最流行的模型尺寸，LoRA 更新的成本非常低（约 100 美元）。这意味着，几乎任何有想法的人都可以生成并分发它。在训练时间小于一天的正常速度下，微调的累积效应很快就可以克服开始时的尺寸劣势。事实上，就工程师时间而言，这些模型的改进速度远远超过了我们的最大变体所能做到的。并且最好的模型在很大程度上已经与 ChatGPT 基本没有区别了。因此，专注于维护一些最大的模型实际上使我们处于不利地位。数据质量优于数据大小这些项目中有许多是通过在小型、高度策划的数据集上进行训练来节省时间。这表明在数据缩放规律中较为灵活。这种数据集的存在源于《数据并非你所想（Data Doesn't Do What You Think）》中的想法，并正迅速成为无需谷歌的标准训练方式。这些数据集是使用合成方法（例如从现有的模型中滤出最好的反映）以及从其他项目中搜刮出来的，这但两种方法在谷歌并不常用。幸运的是，这些高质量的数据集是开源的，所以它们可以免费使用。
OpenAI 未来的路在何方？考虑到 OpenAI 当前的封闭政策，所有这些开源讨论都会令人觉得不公平。如果他们都不愿意公开技术，我们为什么要分享呢？但事实却是，我们通过源源不断地挖角 OpenAI 的高级研究员，已经与他们分享着一切。在我们阻止这一潮流之前，保密仍是一个有争议的问题。最后要说的是，OpenAI 并不重要。他们在开源立场上犯了与我们一样的错误，并且他们保持优势的能力必然遭到质疑。除非 OpenAI 改变立场，否则开源替代产品能够并最终会让他们傲然失色。至少在这方面，我们可以迈出这一步。原文地址：https://www.semianalysis.com/p/google-we-have-no-moat-and-neither
关注微信
