本文来自微信公众号： Web3天空之城 ，作者：Web3天空之城，原文标题：《经济时报深度对话吴恩达：在 AI 的泡沫与现实之间，找寻人类智能的锚点 |附视频》
经济时报深度对话吴恩达
在硅谷的科技版图中，吴恩达（Andrew Ng）是一个无法绕过的名字。作为Google Brain的发起人、百度前首席科学家以及Coursera的联合创始人，他不仅是深度学习浪潮的奠基者之一，更是全球AI教育的领路人。在最新的经济时报深度访谈中，吴恩达对当前AI产业的浮躁情绪进行了冷峻的拆解。他直言不讳地指出，虽然AI展现了惊人的魔力，但智能的不均衡性依然是其无法逾越的鸿沟，而那些关于“人类灭绝”或“就业末日”的宏大叙事，背后往往隐藏着复杂的商业博弈。
目录
全局摘要和核心观点
欢迎Neural Guide：AI的潜力与局限
加速与治理：风险是否被过度炒作？
生产力革命与教育的阴影
AGI定义与市场泡沫
主权AI与开放权重生态
硅谷、人才与签证政策
快问快答：2030与AI的未来
全局摘要
本次访谈邀请了人工智能领域的领军人物Andrew Ng（吴恩达），深入探讨了AI的技术边界、社会影响及未来走向。对话涵盖了AI在可验证任务中的优势与判断型任务中的局限，反驳了“就业末日”的炒作叙事，并讨论了AI在教育中的双刃剑作用。此外，吴恩达还分享了对主权AI、开放权重模型、硅谷人才政策以及印度AI潜力的见解。
核心观点
智能的不均衡性
：AI擅长有客观答案的“可验证任务”，但在缺乏唯一正确答案的“判断型任务”上进步缓慢。
反驳“风险炒作”
：部分关于AI导致人类灭绝或大规模失业的极端言论背后的动机包含商业竞争与融资需求，应更关注实际的工程安全。
教育中的认知卸载
：AI虽能提升工作效率，但在教育中过度使用聊天机器人可能导致学生学到的知识减少，需区分“完成工作”与“辅助学习”。
开放权重的重要性
：支持开放权重模型是确保各国拥有“主权AI访问权限”且不被外部切断的最经济方式。
人才与生产力
：AI不会取代软件工程师，但会淘汰不使用AI代理的低效开发者。
01
智能的鸿沟：可验证任务与判断的局限
在吴恩达看来，大众对AI能力的认知存在一种错觉，认为智能是全面且均衡的。然而现实情况是，AI在不同领域的表现呈现出极大的反差。“AI的一个棘手之处在于智能是不均衡的”，他解释道。在那些有客观标准、可被验证的任务——比如复杂的数学题或代码调试中，AI的表现足以令人惊叹；但在需要深层商业战略思考、面试提问技巧等“不可验证任务”或判断型任务上，AI的进步却显得异常迟缓。
这种智能的不对称性直接反驳了所谓的“就业末日论”。吴恩达认为，虽然AI可以接管工作中30%到40%的任务，但剩下的60%到70%依然高度依赖人类的判断力。“如果你认为有关就业威胁和失业的担忧言过其实，那么你也是‘AI降温’的支持者”，他强调，不应因为极少数的负面案例而全面放缓技术发展，真正的工程安全应当是在实践中不断识别并消除缺陷。
02
风险的操纵：被“武器化”的恐惧叙事
谈及业界关于AGI（通用人工智能）可能导致人类灭绝的预警，吴恩达的观点异常犀利。他认为，过去几年中出现的“AI威胁论”游说活动，其核心驱动力并非技术伦理，而是商业利益。“为了煽动对AI的担忧，出现了一些强烈的游说活动，试图促使监管机构通过封锁性法律，以关停那些开源、开放权重、可自由访问的AI模型”，吴恩达指出，这种叙事方式旨在提高专有模型的投资价值。
他进一步抨击了将AI比作核武器的说法，认为这是一种极其不负责任的类比。核武器唯一的用途是摧毁，而AI则是智能的延伸。尽管此前发生了OpenAI的智能体入侵Hugging Face服务的工程失误，但这恰恰证明了安全应当通过不断的工程优化和监控流程来解决，而非通过制造恐慌。“与其将此事定义为‘应归咎于AI’，不如通过工程手段消除这些问题。AI的发展也应当如此”。
03
教育的阴影：认知卸载与学习的退化
作为全球在线教育的先驱，吴恩达对AI在教育领域的应用持有一种审慎的担忧。他提出了一个极具争议但值得深思的观点：“聊天机器人对学习而言是极其糟糕的”。
吴恩达观察到，当学生使用AI来代劳家庭作业时，虽然任务完成了，但闭卷考试的表现却在下降。这种现象被称为“认知卸载”——即让AI代替大脑思考。“AI的设计初衷是为了完成工作，而非帮助人们学习”，他警告说，这种学习能力的退化不仅发生在学生身上，也正在成年人和职场专业人士中蔓延。为了应对这一挑战，他的团队正致力于开发新一代可扩展的学习体验，旨在利用AI辅助学习而非取代思考。
04
主权AI：开放权重是打破垄断的唯一途径
随着全球地缘政治格局的变化，各国对“主权AI”的关注达到了前所未有的高度。吴恩达认为，确保一个国家拥有不可被切断的AI访问权限至关重要。他以美国白宫曾实施出口管制、迫使相关公司切断领先模型访问权限为例，强调了自主权的重要性。
“确保拥有AI访问权限最经济的方式之一，是支持开放权重模型生态系统”，他分析道。对于大多数国家而言，并非非要从零开始构建每一个组件，而是要确保技术资产不被外部势力掌控。开放权重模型就像互联网初期的协议一样，由全球社区共同资助并发布，这能确保每个人都拥有平等的访问权限，且任何人无法将其剥夺。
05
未来人才观：不再手动写代码的工程师
对于软件工程师这一受AI影响最深的群体，吴恩达给出的建议并非转行，而是进化。他坦言自己已经不再手动编写代码，而是通过语音和文字提示与AI代理协同。“我一点也不怀念手动编写代码的日子”，他笑言。
在他看来，2030年的软件工程师职位不会消失，但职位的内涵将发生剧变。“今天，我不会雇佣那些不知道如何使用编程代理的人，他们的生产力实在太低了”。这种变革同样适用于下一代。吴恩达分享了他教七岁女儿打字的经历，目的是让她能利用AI构建网站。他强调，现在的年轻人绝对不应静观其变，而应在波浪的起始阶段就投身其中。
吴恩达最后指出，AI仍处于演进的早期阶段，最大的未知不在于技术本身，而在于人类如何将这项技术落实到每一个需要它的角落。“它可能会导致一些工作岗位流失，但我们会创造出更多的工作岗位”。
完整访谈整理
经济时报深度对话Andrew Ng
AI的潜力与局限
主持人
欢迎收看ETII播客的特别节目。今天我们邀请到了一位来自Silicon Valley的男士，一位几乎毕生都在从事人工智能研究的教授。他对AI不仅仅是略知一二，而是有着极其深厚的造诣。NG。今天我们请到了Neural Guide莅临现场。
他曾与Sam Altman共事，也曾与Dario合作。未来他或许能促成他们与我们进行交流。但今天，我们要向他请教该如何使用AI，如何聆听并与AI对话，即便AI并不想听你说话。
今天我们请到了Andrew Ng。如果我可以这样称呼，Neural Guide。因为您正身处神经突触之中，解码着智能的奥秘，并向世界传授正确且最恰当的AI使用之道。非常感谢您，Andrew，能在印度清晨抽出时间参与节目。
吴恩达
很高兴来到这里。我很高兴能来到印度，因为我认为这个国家应用AI的潜力非常巨大。我渴望找到一种方式，尽可能多地为印度的民众和机构提供帮助。
主持人
是的。AI代表人工智能（artificial intelligence），但如果能将这个缩写延伸到国家层面，我们已经准备好在全印度推广应用它。让我从第一个问题开始。你说过AI很神奇，但它也有局限性。请让我对这两者都有所了解。它好在哪里，又有哪些局限性？
吴恩达
AI的一个棘手之处在于智能是不均衡的。这意味着有些任务，比如解决数学问题，它做得非常出色，尽管这对人类来说非常困难。但可能存在一些略有不同的任务，比如面试时向他人提问的方式，或是如何思考商业战略，这些在人们看来似乎并不那么困难，但AI可能在这些方面表现得极其糟糕。
事实证明，区分AI擅长与不擅长领域的一条界限在于所谓的“可验证任务”，即那些有客观对错答案的任务，因为我们拥有非常先进的技术来帮助AI在这些任务上表现出色。然而，还有许多被称为判断型任务或不可验证任务的工作，它们并没有唯一的正确答案。尽管AI正在取得进步，但这种进步要缓慢得多。
这与就业问题有关。我认为AI非常擅长客观的可验证任务，但仍有许多判断型任务需要人类去完成，这就是为什么我认为关于“就业末日”的说法被过度炒作了。
主持人
如果你认为有关就业威胁和失业的担忧言过其实，那么你也是“AI降温”的支持者。你为什么认为我们需要让AI降温，而不是任其高速发展？
吴恩达
我不确定你所说的“让AI降温”具体指什么。
加速与治理：风险是否被过度炒作？
主持人
你是说关于“减速”的整套叙事吗？Dario本人也说过，我们需要暂停，不能操之过急。
吴恩达
我其实并不支持减缓AI技术的发展。AI技术拥有大量有益的使用案例，正在医疗保健领域发挥作用，我们也将找到帮助人们更好地学习的方法，但我们尚未达到那一阶段。但也存在一些有害的使用案例。例如，我见过的最令人作呕的事情之一，就是利用AI生成非自愿的私密影像。这极其糟糕，必须予以杜绝。因此我认为，我们应该加速发展这种对诸多领域大有裨益的基础性通用AI技术，同时也要遏制那些存在问题的用途。
主持人
但是，仅在一个孤立的领域放缓速度是否可能？
吴恩达
像电力、蒸汽机、电动机或互联网这类通用技术所面临的挑战之一，就是它们都受人类支配。我认为在很大程度上，当我们通过提供互联网或AI等强大工具来增强人类能力时，人们会将它们用于极其有益的目的。但确实，也存在极小一部分有问题的使用案例。
我认为，因为这极小一部分不良用途而全面放缓技术发展，绝非明智之举。但我们确实还有艰巨的工作要做，即识别那些存在问题的应用场景——其中许多实际上已经属于违法行为——并确保在必要时完善法律，执行现有法规，从而确保我们在遏制这些问题应用的同时，尽可能地加速许多有益应用的发展。
主持人
但这到底是谁的责任呢？是像OpenAI和Claude这样的AI创造者和创新者，还是AI的使用者？
吴恩达
这是一个极好的问题。我认为，如果有人拿着锤子去钉钉子，却钉错了墙，那是谁的错？是我的错，还是制造这把锤子的人的错？在我钉钉子的案例中，如果我操作不当，那就是使用者的错。唯一需要注意的是，工具的制造应当达到基本的安全水平；所以，如果我挥动锤子时锤头飞出去砸坏了别的东西，那就是一把非常危险的锤子。
但事实证明，大多数国家最终都会找到实施责任认定的最有效方式。对于许多工具（如AI）而言，让使用工具的人承担责任，要比强迫工具开发者去杜绝任何滥用可能更为容易。杜绝以任何有害方式使用锤子的可能，那是不可能的，那种技术就是知识本身。
主持人
你用锤子来打比方，这让我想到了两个类比。有枪械制造商，但他们必须遵守规则和法规，有时是政府强制要求的，有时是行业自律的。围绕这些有许可证和各种规定。也有刀具制造商，这具有两面性，你可以用它切苹果，也可以用它杀人，这取决于你正在发明什么样的技术和产品。
当谈到AI时，遗憾的是，如今发布的一些模型本身正在走向失控，而其背后的创新者或公司也承认这出了问题。因此，这场竞赛任其加速发展，却未先暂停以规避其可能带来的所有错误，毕竟这是一项尚不成熟且具有危险性的技术。
吴恩达
这就是为什么需要为其设置护栏，而政府对这项技术并没有太多了解。
主持人
人们该如何去理解那些处于技术前沿的创新者，或是像你这样的研究人员呢？你和其他许多精通AI的专家是否能参与并协助构建这些护栏？因为你深耕于此，你对其有深刻的理解，你同时也针对其影响开展了足够多的研究。
吴恩达
AI的确存在有害的应用。但我想要反驳那种认为它极其危险的观点。坦率地说，AI的风险被过度炒作了。让我来谈谈这种炒作背后的动机，以及我所认为风险被夸大的具体领域。
大约从三四年前开始，我感到惊讶的是，少数几家企业游说的力度竟然如此之大，它们当时正在投入巨额资金，训练专有的AI模型。事实证明，如果你花费十亿美元去训练一个专有的AI模型，而其他人选择训练一个类似的模型并将其免费发布在互联网上供任何人使用，这会让你感到非常不便，这确实抬高了投资的价值。
因此，为了煽动对AI的担忧，出现了一些强烈的游说活动，试图促使监管机构通过封锁性法律，以关停那些开源、开放权重、可自由访问的AI模型。事实证明，这种恐惧叙事也被一些公司用于融资目的，因为如果你能让人相信——几年前就有人在AI和核武器之间做了一个不负责任的类比。核武器只擅长一件事，那就是摧毁城市，我看不出这与作为智能的AI有任何关联。但那个不负责任的类比被提了出来，且至今仍让人对AI感到恐惧，但这确实让一些人相信这项技术可能非常强大且价值巨大，从而有助于融资。
主持人
没错。所以你的意思是，所有的负面宣传，或者至少其中的某些部分，都是为了制造关注并筹集资金而人为设计的。
吴恩达
宣传工作的一个重要部分是服务于这些商业和公关目标。现在，我认为在过去几个月里人们对AI的担忧激增，原因其实与一个案例有关。该案例被广泛报道，即当时OpenAI的一个团队正在运行一组智能体，而这组智能体入侵了Hugging Face的服务。因此，OpenAI的沙盒技术存在一些漏洞，且其监控基础设施也比较薄弱，导致了这次非常不幸的入侵事件。
好消息是，现在这件事已经广为人知，世界各地的团队，包括我的团队以及许多其他团队，都在更加认真地对待沙盒防护，并部署了更好的监控流程。因此，这种特定的工程缺陷或工程失误在其他地方出现的可能性已大大降低。当我们建造工程产品时，无论是汽车、飞机还是各种机器，确保其安全的最优方法就是不断识别问题，然后通过工程手段消除这些问题，AI的发展也应当如此。
所以，与其将此事定义为“我没有责任，是我的AI智能体出了问题，应归咎于AI”（我认为这种思考方式是不对的），我倒认为OpenAI值得赞扬的一点在于他们保持了透明，并吸取了教训，从而制定了更好的准则和监控措施，使得这一特定问题现在比过去安全多了。我将继续致力于此。
生产力革命与教育的阴影
主持人
你承认散布恐惧在一定程度上是为了获取资金，这很有意思，看来这两者之间确实存在关联。不要总是被散布的恐惧所困扰，因为这背后可能别有目的。有道理，谢谢。我进入下一个问题。
吴恩达
关于散布恐惧的话题，我能再多说几句吗？这是一个值得探讨的方面。散布恐惧的一个维度——同时也让一些公司显得很有影响力——就是所谓的“AI导致就业末日”这一观点，即认为AI太强大了，可能会取代人类，比如认为50%的人会失业之类的言论。这种情况不会发生。
以我朋友对就业的分析为例，我的斯坦福大学教授朋友Eric Brynjolfsson，他开展了许多研究，将工作拆解为具体任务，以探究AI究竟能做什么以及不能做什么。许多研究表明，AI或许能够胜任许多工作中30%到40%的任务，这非常了不起，但这也意味着我们仍然需要人类去完成剩下的60%到70%。然而，AI能够完成这些工作这一事实意味着，能够使用AI的人将比不使用AI的人具有高得多的生产力。好消息是，从长期的历史趋势来看，随着个人生产力的提高，薪资水平也随之上升。因此，我在Silicon Valley看到的，就是当人们拥抱AI并利用它去完成更多工作时，他们自己以及他们的企业都会发展得更好。
主持人
但是，对于那些工作被AI完成得更好，以及因部分工作被AI取代而受到裁减的人们，又该怎么办呢？除了学习AI技能之外，他们需要做些什么来争取下一份工作？因为尽管你认为工作不会被大规模取代，但现实情况是，从Harvard和Stanford毕业的计算机工程师也正面临就业困难。你认为现在应该如何培养人才？在这个时代做好准备，他们应该装备并武装自己，去掌握什么样的技能组合，以及什么样的AI模型或技术？
吴恩达
你本质上提到了软件工程师。AI影响最深的领域或职位类别可能就是软件工程，因为它在编写代码方面表现极其出色。但事实证明，软件工程职位的招聘需求反而上升了，因为当软件工程师或AI工程师的生产力大幅提升时，企业更愿意雇佣他们。从经济学角度来看，这合乎逻辑。
主持人
但这些是能够利用AI编写核心代码的软件工程师，而这就是差距所在。
吴恩达
遗憾的是，许多大学在培养学生时，依然没有让他们接受足够的AI操作培训。我认为非常令人遗憾的是，在许多学校里，学生竟然可以在从未接触过AI的情况下获得计算机科学学士学位。使用AI编程代理，以及调用尖端AI模型的API，这些如今已是基础的计算机科学技能。
例如，对于我的团队，我很乐意雇佣更多优秀的软件工程师和AI工程师。但今天，我不会雇佣那些不知道如何使用编程代理的人，他们的生产力实在太低了。那么我们该如何提升人们的技能以掌握这些本领呢？这是我们当前面临的最大挑战之一。因此，在LearnVector、DeepLearning.AI和Coursera，我们正在努力尝试进行调整。
主持人
大学普遍担忧学生使用AI编写代码会导致他们无法掌握基础知识。这会重塑他们的大脑，甚至导致他们无法学习基础的学习集，因为前沿部署工程师需要先知道编写什么代码、如何编写，然后再进行检查。在进入审查阶段之前，你需要先了解如何共同完成这项工作。这是否是大学所担忧的考虑不周的步骤？
吴恩达
我想我也持有同样的担忧。我要说的话听起来可能具有争议性，但实际上它得到了越来越多非常扎实的数据支持：聊天机器人对学习而言是极其糟糕的。大学对此早已知晓。如果学生使用AI代替他们完成家庭作业，他们的作业成绩会更高，但学到的东西却更少，在闭卷期末考试中的表现也更差。
之所以这让我如此担忧，是因为如果你将这种学习流失在学生10年、12年或15年的学习旅程中进行复合计算，那么最终培养出来的学生所掌握的知识将远低于预期。事实是，当有人使用AI时，AI在完成工作方面确实非常出色。但AI的设计初衷是为了完成工作，而非帮助人们学习。
我们深知，认知卸载——即让AI代替你思考——对于完成工作非常有帮助，所以我们应当加以利用。但这会导致人们学到的东西变少。我认为目前仍被低估的一点是，越来越多的研究正从小学、中学到大学各级正式教育中涌现出来。这种学习能力的退化同样发生在成年人以及职场专业人士身上。
主持人
所以，我们的聊天机器人对学校、学院乃至工作场所是有害的吗？
吴恩达
我认为它们在完成工作方面表现出色，我很喜欢它们，它们能帮助我完成工作。让我们利用它来完成工作，但我们不要自欺欺人，认为这些聊天机器人能够很好地帮助我们学习。在LearnVector，这是一个由Coursera资助并由我领导的实际团队，我们非常专注于如何利用AI真正帮助人们学习，并创造新一代可扩展的学习体验。
AGI定义与市场泡沫
主持人
谈到AGI，像Jensen这样的人声称AGI已经到来，我们已经生活在其中了。你有不同的看法，为什么会这样？
吴恩达
这取决于你如何定义AGI。我认为大多数人所理解的AGI，是指那种能够完成人类所能胜任的任何智力任务的AI。如果采用这个定义，那么要实现这样的AI，它就应该能够通过大约20小时的练习学会开车，甚至能穿过森林。我们目前还做不到这一点。因此，有很多人类可以完成的任务，AI尚无法实现。所以我认为我们尚未达到那种人类水平的AI。
但如果我们采用AI的其他定义，比如能够完成50%具有经济价值任务的AI，但在100年前，许多国家的经济主要依赖农业，当超过50%的农业实现自动化时，如果我们把标准降得足够低，那么我们是否在30年前就已经实现了AGI？但对于大多数人心目中那种与人类一样智能的AI定义而言，我们依然至少还有数十年的路要走。
主持人
没错。目前，几家支持人工智能的公司，无论是Anthropic还是OpenAI，它们都准备进行首次公开募股（IPO），筹集大量资金。人们正在对它们进行投资，但同时也存在一种担忧，即这一切是否仅仅是炒作，这是否正在形成泡沫。你对此持什么立场？
吴恩达
我确信AI技术将会非常有价值。我在OpenAI和Anthropic都有很多朋友，我想我可能是地球上唯一一个同时被Sam和Dario效力过的人，所以我当然祝愿我在OpenAI和Anthropic的所有朋友在业务上一切顺利。至于它们的股价表现，我不想对此做出预测。
关于AI的炒作和泡沫，也许让我分享一下我确信的部分，即我认为哪里不存在泡沫。AI模型非常有价值，我们仍然需要建设更多的数据中心来为AI模型提供服务，因为经济体其余部分在这些模型之上构建应用的工作还有很大一部分尚未完成。在AI Aspire，我和我的商业伙伴正在与印度及全球的许多企业探讨如何应用AI。我们将着眼于金融、医疗、交通等众多不同领域中大量的有价值用例。
我有信心我们几乎可以利用任何数量的AI推理能力和任何数量的数据处理能力。一旦建成，我认为它们就会被使用。这并不意味着过度建设是不可能的，也许有些人会亏损，但我非常有信心任何被建造出来的算力设施最终都会被充分利用。
主持人
如果泡沫破裂，谁来承担责任？
吴恩达
我并非那方面的专家，但我的工作重点是培养人才，让每个人都能利用AI，同时我也致力于支持许多优秀的AI企业，因为我认为拥有大量优秀的AI企业也将加速全球的进步。
主持人
所以你的意思是买方自负，而不是去指责Anthropic或OpenAI，因为他们是在发布技术、设立基金、进行IPO，各人自有各人的考量。OpenAI和Anthropic一直都是非常出色的技术创新者。
吴恩达
我希望他们发展得好。我认为股市中发生的事情终究会发生在股市里。
主权AI与开放权重生态
主持人
既然你两边都熟，也许下次你去印度的时候，可以把他们叫到一起，至少让他们握个手，因为上次他们在印度时我们没能做到这一点。所以，如果你能为我们在印度促成此事，我们就把这个任务交给你了。但这就让我想到了印度，以及当今那些心存顾虑的国家，正如当初的本地部署和主权云一样，如今讨论的焦点是主权AI。各国才刚刚开始涉足构建生态系统和基础设施，或者大规模采用AI。对此你有何看法？他们应该如何着手推进？
吴恩达
我认为我们正处于这样一个时代：确保拥有主权AI访问权限，以保证没有人能切断国家对AI的使用，这是一个重要的步骤。例如当美国白宫实施出口管制时，曾强迫Anthropic关闭了其领先模型之一的访问权限。因此，如果印度政府或我们的企业希望确保能够持续访问AI且不被切断，拥有主权AI访问权限就显得至关重要。
我对印度AI模型生态系统的增长感到鼓舞，同时，事实证明，确保拥有AI访问权限最经济的方式之一是支持开放权重模型生态系统，因为大多数国家需要的并非拥有AI的每一个组成部分，而是确保没有人能够拒绝他们对其的访问。
如今，软件非常丰富，例如支撑互联网的网络协议TCPIP是由世界各地的许多人编写的，但关键在于它们是以开源软件的形式发布的，所以一旦你拥有了它，就再也没有人能阻止你使用它。这就是支持开放权重模型的力量所在。当全球社区共同资助这些开放模型的研究与开发时，它能确保每个人都拥有平等的访问权限，且任何人无法将其剥夺。
主持人
但人们对免费的开放权重LLM存在担忧，主要涉及安全和网络威胁风险。该如何确保这种风险不会发生？
吴恩达
AI模型正在以有时令人兴奋、有时又令人担忧的方式开辟网络安全的新阵线。是否有人可能发布一个被触发后会执行违规操作的开放权重模型，这确实是一个问题。从理论上讲，实现这一点的技术是存在的。我目前还未听说此类事件发生，但这正是安全研究人员正努力防范的领域。
主持人
你会在什么场景下使用开放权重模型来实现你的目标？
吴恩达
关于网络安全，我们需要关注的一点是，尽管人们对AI充满忧虑，但有一个方面值得重视，那就是网络进攻和网络防御能力都已经有了显著提升。
主持人
归功于AI吗？
吴恩达
正是归功于AI。如今，无论是攻击者还是防御者，要组织一群AI agents来尝试发现漏洞或进行防御，都比以往任何时候更加容易。因此，我一直很关注的一件事是，我的朋友Rohit Prasad社交圈一直致力于开源框架的建设，许多网络安全防御者一直在使用这些框架来构建更强大的防御体系。
令人遗憾的是，许多专有模型目前以所谓的安全理由，拒绝在许多企业遭受攻击时提供防御协助。因此在美国，许多网络安全研究人员正在使用开放权重模型而非专有模型来执行网络防御。所以我很期待我们如何能够打造更好的工具，来实现这类网络防御。
主持人
那么回到印度，你认为印度应该意识到哪些类型的解决方案？无论是在风险方面还是在收益方面，因为没有人愿意失去技术上的优势。
吴恩达
我认为印度可以大有作为。但坦率地说，如果让我优先考虑一件事，那就是通过培训让人们掌握构建、使用和理解AI的技能。因为人们对AI的许多担忧并非源于流氓代理，实际上它们是需要解决的工程问题，即如何约束代理并引导它们按我们期望的方式行事。
事实证明，有很多技术我们无法做到完美控制。我坐飞机去印度，我们并不能完美地控制飞机，风也会吹动飞机，但随着时间的推移，我们已经学会了足够好地控制它们，使其变得非常安全。所以我认为我们永远无法完美地控制AI，但我们可以通过工程工作使其变得非常安全。对印度而言，关键在于提供这些技能，以确保拥有足够多的技术与非技术人员，能够理解这些工具并懂得如何引导它们。
主持人
印度正在推广使用其本土的Sarvam AI。你认为其他国家是否也在发生同样的情况？在印度，我们称之为“印度制造”和“自力更生”。你是否看到这种情况正在其他国家中发生？
吴恩达
我对Sarvam的进展感到非常鼓舞，这是一项伟大的事业。我看到许多其他国家在模型训练方面进行了一定程度的研究，拥有这种专业知识是一件好事。但对于那些资源不如印度的国家来说，很可能会更多地依赖于开放模型。最重要的是确保没有人能切断你对它的访问权限，而开放权重模型是一种确保后者的非常廉价的方式。
硅谷、人才与签证政策
主持人
没错。现在美国出现了一些移民和签证方面的问题。美国和Silicon Valley一直是吸引全球顶尖人才的地方，你就是其中的一个例子。在Silicon Valley，这类似于人才流失，如果最顶尖的人才无法来到美国，他们就会回到自己的祖国。这会对那些人才输送国产生重大影响吗？
吴恩达
我认为美国几十年来受益于许多非常有才华的人渴望来到美国工作，而实施不太友好的签证政策是一个巨大的、非强制性的错误。我的团队努力支持移民，并会不遗余力地照顾所有团队成员的福利，包括有签证需求的移民。
关于技术开发，有一点很重要，那就是希望拥有几个将大量人才聚集在一起共同工作的枢纽。很多来到Silicon Valley工作的人，让全世界都从Silicon Valley的许多创新中受益。如果Silicon Valley不存在，而人才均匀分布在世界各地，世界未必会变得更好，因为世界需要创新中心。但由于美国的签证政策，这为其他国家创造并加强自身创新中心提供了更多机会。
主持人
印度能否吸引你偶尔过来授课？
吴恩达
我有幸来过印度几次。我当然希望能在这里花更多时间，并寻找支持印度的方式。
主持人
太棒了。
快问快答：2030与AI的未来
主持人
那么，我们进入最后一轮，即快问快答环节。问题要简短有力，2030年前实现AGI，是还是否？
吴恩达
就我最熟悉的AGI定义而言，答案是否定的；但如果是其他宽泛定义，当然可以。
主持人
你的财务数据在使用AI时安全吗？是还是否？
吴恩达
我对财务数据非常谨慎，我不会把它们上传到任何其他归属方那里。
主持人
编程作为一种职业是已经消亡、正在消亡，还是说依然前景良好？
吴恩达
它会蓬勃发展的。我认为我们需要更多的AI工程师，但你不只是在编写代码，我们也必须做出其他决策。
主持人
在周日的下午，手动编写代码还是向AI Agent发送提示词，哪种方式让你觉得更满足？
吴恩达
我已经不再手动编写代码了，而且我一点也不怀念它。
主持人
语音提示？
吴恩达
我使用语音提示和文字提示相结合的方式。
主持人
没错。如果参加过最初那门Coursera ML课程的那个过去的你今天走进来，关于2026年的AI，你会对他说的第一件事是什么？
吴恩达
我可能会说，在那个时候，我当时押注于扩展AI（这也是我启动Google Brain项目的原因），基于这样一个简单论点：如果我们建造非常庞大的计算机，并向其中投入海量数据，那么扩展AI将使我们取得进展。结果证明我是对的。如果能回到过去，让年轻时的自己确信这一切会非常顺利，那该多好。
主持人
Geoffrey Hinton还是Yann LeCun，你更赞同谁？
吴恩达
我在许多不同的事情上都赞同他们两人，但在其他事情上则持不同意见。我非常尊重Yann对开源和开放权重的支持。
主持人
你认为哪种工作会先消失？是编程还是2030年的其他工作？今天看起来是编程，但在四到五年后呢？
吴恩达
软件工程不会消失，但软件工程师的工作岗位已经发生了巨大的变化。在Silicon Valley，软件及相关职位的招聘需求正在上升，我们无法找到足够的技能型AI工程师。
主持人
既然你已经看到了全球各地的AI模型和技术进展，那么，U.S.还是China？谁会在AI竞赛中胜出？
吴恩达
谁会在电力竞赛中胜出？两者都没有，但我认为所有国家都有空间从这样一种通用技术中获得巨大收益。
主持人
今天的10岁孩子应该在做家庭作业时使用AI吗？你会告诉家长什么？
吴恩达
我认为这是一个非常棘手但也非常好的问题。我有一个七岁的孩子，我正试着教她打字，这样她就能利用AI来构建网站并完成一些特定任务。
主持人
你为此开发了一款应用程序吗？是为了帮她练习打字吗？
吴恩达
我实际上开发了多款应用。我女儿非常喜欢猫，所以我做了一款游戏，通过打字她可以收集更多的数字猫，这极大地激发了她学习打字的动力。那么对于家庭作业中使用AI怎么看？我认为在很大程度上，让孩子们在做家庭作业时使用AI是一件糟糕的事情，且会损害学习过程。
主持人
没错，但我们需要提出更好的解决方案。最被低估的AI技能，我们可以之后再讨论。你想尝试一下被高估的AI技能吗？还是关于它的炒作？
吴恩达
此时此刻，许多事物似乎都被过度炒作了。但可以肯定的是，三年前作为职业的prompt engineering，并没有真正实现。
主持人
ChatGPT、Gemini还是Claude？你日常使用更多的是哪一个？
吴恩达
我其实都在用，还有一些开源的。
主持人
比例是多少？各占多少比例？
吴恩达
我不知道具体的百分比，但我认为养成定期将相同的查询提交给多个不同模型并观察返回结果的习惯是一种良好的行为准则，这能不断维持我对哪些模型表现更佳的直觉。而且表现更好的模型每隔几个月就会发生变化。
主持人
没错。你来自Silicon Valley。Bengaluru想要提升自身并超越它，你认为它有机会吗？
吴恩达
要取代Silicon Valley非常困难，但绝对值得尝试。不过这并非零和博弈，我认为Silicon Valley有很大的发展空间，其他城市也同样有空间。
主持人
猫还是狗？你曾经主持过一个2012年Google Brain的猫咪识别实验。
吴恩达
我真的很喜欢猫和狗。我女儿非常喜欢猫，我这辈子养过宠物狗，所以两者都喜欢。
主持人
好的。如果给22岁的年轻人一个建议，是去学习、去创造，还是静观其变？
吴恩达
绝对不要静观其变，要持续学习并不断创造。这波AI新浪潮仍处于早期阶段。现在绝对不晚，现在是投身其中的绝佳时机。
主持人
最后一个问题。关于AI，我们还有哪些未知之处？
吴恩达
我觉得这项技术仍在不断演进，因此它最终会走向何方，依然是一个悬而未决的问题。但更大的未知在于，我们该如何运用这项美妙的技术，将其落实到所有需要我们去发掘和应用的地方，从而让每个人都能从中获得广泛的益处。
主持人
好的。非常感谢Andrew今天抽出时间接受访谈，很高兴能了解你对AI的看法。你从事这一领域已经很多年了，但你对它依然充满希望。
吴恩达
AI可能会导致一些工作岗位流失，但我们会创造出更多的工作岗位。
主持人
没错。但我们必须照顾到每个人，包括那些受到影响的极少数群体。非常感谢，Andrew。很高兴能有这次交流的机会。
吴恩达
谢谢。