https://www.digitalistpapers.com/vol2/jurvetson
作者：Steve Jurvetson
Future Ventures的创始人，特斯拉和SpaceX早期投资人。
人工智能对每一个企业都至关重要。应用”迭代算法”——人工智能、机器学习、定向进化、生成式设计——来构建复杂系统，是自16世纪科学方法诞生以来工程领域最强大的进步。这些技术已经使我们能够构建超出我们理解范围的软件解决方案，并将为每一个行业提供”神经支配”。
我已经为这一转变期待了35年。早在1989年，我开始攻读电气工程博士学位。我研究的重点是如何通过将神经网络映射到并行处理计算机上来加速它们。二十五年后，在神经网络复兴期间，我们开始谈论”机器学习”和”深度学习”。在2013年丘吉尔俱乐部的VC辩论中，我选择了AI作为顶级科技趋势。[1]
2014年，在德丰杰投资（Draper Fisher Jurvetson）期间，我领导了对首批AI芯片公司之一Nervana的第一笔投资，并在2016年领导了对首家模拟AI芯片公司Mythic的投资。在我们的投资组合中，我们看到了深度学习的强大应用，从分子设计到图像识别，从癌症研究到自动驾驶。在Future Ventures，我们投资了AI硅片、数据中心基础设施和基础模型（例如，埃隆·马斯克的xAI和开源的Zyphra）。
如今，随着transformer和扩散模型的出现，术语再次发生了变化。现在我们谈论AI，有些人预期通用人工智能和变革性人工智能。但在所有这些案例中，从过去世纪的神经网络到当今的大语言模型，方法是大致相同的：重复应用一个简单的迭代算法来学习隐藏在数据中的复杂关系。
一场向专用硅片的进军正在进行中。所有这些公司最初都是在传统的计算集群（即CPU）上部署其神经网络的。然而，一些公司通过将代码迁移到GPU上获得了巨大优势。GPU是专用处理器，最初是为快速渲染计算机图形而设计的，但拥有比CPU多得多的计算核心。到2014年Nervana成立时，一些公司（例如微软和谷歌的搜索团队）正在探索”FPGA”芯片，因为它们具有更细粒度的可定制逻辑块阵列。
在进行尽职调查时，我们与亚马逊、谷歌、百度和微软进行了交流。我们发现，这些公司内部深度学习的应用范围之广远超我们先前的想象，从产品定位到供应链管理。
“从过去世纪的神经网络到当今的大语言模型，方法是大致相同的：重复应用一个简单的迭代算法来学习隐藏在数据中的复杂关系。”
例如，在谷歌，机器学习几乎是他们所做一切的核心。从这个角度看，他们的收购和新产品策略就很有意义了。它们不是传统的产品线扩展，而是机器学习的过程扩展。简而言之，他们不仅仅是为了好玩而下围棋。例如，谷歌将其核心搜索算法切换为深度学习，并利用DeepMind将数据中心冷却成本大幅降低了40%。[2]
重要的是，深度学习的进步是领域无关的。谷歌可以招聘和收购人才，并热衷于他们对游戏或机器人技术的追求。这些努力帮助谷歌构建一个更好的”大脑”。而且，就像一个新生的婴儿一样，这个合成神经网络可以学习很多东西。团队可以用它在互联网上找到猫，并玩出精彩的围棋游戏。但他们在构建更好大脑方面取得的进步，随后可以应用于广告匹配——而这项任务本身并不能激励最优秀、最聪明的人才来为谷歌工作。
这种深度学习的领域无关性对劳动力市场有着深远的影响。学习的焦点从最终产品转移到产品创造的过程。AI开发更像是养育子女而不是编程。同时，由于工程师可以如此轻松地跨领域流动，深度学习和AI领域已经将劳动力市场加热到相对前所未有的水平。大公司为了人才收购，为每位工程师支付600万至1000万美元，为仍在校的、没有产品的初创团队每人支付400万至500万美元。某个斯坦福实验室硕士项目的学生，毕业时第一份工作的录取通知书平均年薪为50万美元。我们曾目睹一位学术界人士拒绝了百万美元的签约奖金，因为他得到了更好的offer。而随着十亿美元级别的大语言模型人才收购，情况变得更为夸张。
再者，这些”大脑构建者”可以加入任何行业。当我们在Human Longevity Inc.组建深度学习团队时，我们聘请了Google翻译团队的工程负责人Franz Och。
Och开创了谷歌超越人类水平的翻译服务，他不是通过研究语言学或语法，甚至也不是通过说他正在翻译的语言，而是专注于构建一个能够从海量人工翻译的文档（特别是联合国转录文本）中学习这项工作的大脑。
同样，当Och来到HLI时，他关心公司的使命，但对癌症和基因组一无所知。然而，他构建的学习机器能够在整个基因组中找到复杂的模式。简而言之，深度学习专业知识是可迁移的。这就是为什么越来越多的公司正在跨行业招聘和竞争。
越来越多的行业正在经历转型，从汽车到农业，从医疗保健到金融服务。我们在自己的风险投资组合中看到了这一点，涉及化学、模拟电路设计、RNA疗法的表观遗传和遗传靶点、自动驾驶和机器人技术、在Planet公司的每日行星地图中对飞机和工业活动的矢量图发现、网络安全、金融风险评估，以及安防摄像头、无人机和医学图像中的视觉分类等等。
使用迭代算法构建的产物，其强大之处和不可理解性存在一些共同模式。我们在生物学、元胞自动机、遗传编程、机器学习和神经网络中都看到了这一点。
没有数学捷径可以对神经网络或遗传程序进行分解，无法像我们能相对轻松地对有目的设计的产物进行逆向工程那样，对它们进行”逆向进化”。复合迭代算法（进化、分形、有机生长、艺术）的美妙之处恰恰源于它们的不可还原性。
深度学习方法虽然相对容易学习，但对于传统的工程模式来说却是相当陌生的。它需要不同的思维方式，并且要放松对控制权的预设。从业者就像魔法师，与典型工程流程的其他部分隔离开来。他们创造的产物是被其接口定义的、孤立的功能块。它们就像被传递给传统组织其他部分的魔法块。这也延续到了客户身上；在未来五年内，你体验到的几乎所有看似神奇的产品，几乎可以肯定都是由这些算法构建的。
这将把我们带向何方？我们正在构建人造大脑。我们从感觉皮层开始，就像一个刚来到世界的婴儿。神经网络在20世纪90年代在语音识别领域取得了早期成功；2012年，深度学习的变体在ImageNet竞赛中占据主导地位。
如今，在许多领域，机器在视觉处理方面可以比人类做得更好（例如病理学、放射学和其他医学图像分类任务）。DARPA有研究项目旨在超越狗的嗅觉。即使在这些系统内部，例如视觉系统，深度学习网络也是从低级结构（如边缘检测）开始，作为更高级结构（如面部形态）的基础，并最终通过自学在互联网上找到猫。
但人造大脑不必局限于人类的感官。借助物联网，我们正在这个星球上创建一个感觉神经系统。所有这些”大数据”本可能是一个巨大的难题，但机器学习帮助我们在其中找到模式，并使其可操作化。
而且它不必止步于此。人类智能正是通过迭代算法从其原始祖先中产生的。生物进化是缓慢的，但它为这个过程提供了存在证明。
“人类智能正是通过迭代算法从其原始祖先中产生的。生物进化是缓慢的，但它为这个过程提供了存在证明。”
而现在，一个类似的过程正在人工领域被极大地加速。
而这仅仅是个开始。在未来几年内，得益于Starlink为未服务地区提供低成本的宽带，将有30亿新的大脑首次上线加入这场全球对话。这些人目前与全球经济脱节，但他们很快将能够接受在线教育，并拥有创业和创新带来的所有经济潜力。仅此一点就应该会引发一场创新热潮。
然后AI加入了对话。AI跨越了所有学科，超越了任何人类心智的能力。就像一个在共同向量空间中的通用语言翻译器，AI模型将以前所未有的方式汇集我们不同的思想库，在这个整体中发现新的模式，开启创新新的组合式复合增长。这可能会感觉像是一次未来冲击的寒武纪大爆发。
丹尼·希利斯在《石头中的图案》的结尾章中写道：”我们不会去工程化一个人工智能；相反，我们将设置正确的条件，让智能能够从中涌现。””我们技术最伟大的成就很可能就是创造了能够让我们超越工程学的工具——这些工具使我们能够创造出超出我们理解范围的东西。”[3]
参考文献
[1] Steve Jurvetson, “Steve Jurvetson on Machine Learning,” Churchill Club Top 10 Tech Trends Debate, YouTube, 2013年5月23日, https://youtu.be/yeCq8GgDyXM?si=HyIEYJ0ldnowxhsA.
[2] Richard Evans and Jim Gao, “DeepMind AI Reduces Google Data Centre Cooling By 40%,” Google DeepMind, 2016年7月20日, https://deepmind.google/discover/blog/deepmind-ai-reduces-google-data-centre-cooling-bill-by-40/.
[3] W. Daniel Hillis, The Pattern on the Stone: The Simple Ideas That Make Computers Work (Basic Books, 1998).
转载请注明：《中国社会分红/基本收入研究网》 浏览量：9 views
