INDIGO TALK / AutoGPT 与 GPT4 的能力涌现 - EP06

INDIGO TALK 第六期，邀请了真格基金的管理合伙人戴雨森（Yusen），他也是聚美优品的联合创始人，完整经历过移动互联网时代的成功创业者和资深天使投资人，在他的专业背景下，一起来聊聊最近火爆的 AutoGPT、GPT4 涌现出来的新能力，还有新的智能代理组织形态以及对大语言模型支撑下 AI 创业的思考，一如既往，我们都会在最后讨论下 AGI 的到来对社会的影响。

通过 Spotify 或者 Apple Podcast 收听，请点击这里！

本期嘉宾

Yusen（戴雨森 - 真格基金 管理合伙人）
Indigo（数字镜像博主）

时间轴

00:00:23 - 节目开场的嘉宾介绍

00:03:03 - ChatGPT 与 AutoGPT 的范式转变

00:14:15 - GPT 4 的能力涌现与连接主义

00:35:31 - ChatGPT Plugin 功能带来的机会

00:45:34 - 如何看大语言模型下的 AI 创业

00:59:31 - 通过智能代理运行的新组织

01:07:37 - AGI 的到来对社会的影响

01:19:52 - INDIGO 对本次对谈的总结

01:25:56 - YUSEN 的总结

内容纲要

如果今年四月 AI 领域只有一件事值得关注，它必须是 AutoGPT，它把人类对大语言模型的使用推向了一个新的高度。尽管目前技术尚有局限，任务完成度比较低，但这种从语言模型到“赛博具身”的转换非常重要，关于 AutoGPT 的详细讨论参见 orange.ai 的这篇《AutoGPT，从语言模型到赛博具身》。在这样一个模型成长速度超过你创业开发产品速度的时代？我们应该如何面对这样的现实？GPT-4 更强大的推理能力上会有哪些新机会？还请听本期对谈！

以下内容由 GPT-4 根据每个讨论小结的对话内容生成（Prompt：用十个有意义的要点来概括）

ChatGPT 与 AutoGPT 的范式转变

• 人工智能行业发展迅速，每天都有新技术和进展出现，如近期的 AutoGPT。
• 大语言模型，如 ChatGPT，迅速拓宽了 AI 在不同领域的应用场景。
• AI技术的核心变化在于将语言和工具结合，从而提高各行各业的效率。
• AutoGPT 虽然还比较粗糙，但其发展潜力和优势明显，足以改变整个技术生态。
• 语言、知识、逻辑 是大语言模型的三个层次，其中 逻辑层 最具挑战性。
• AI 产品如 ChatGPT 不仅使普通用户可以直接使用新一代AI技术，更拓展了整个AI技术的市场应用。
• AutoGPT 的未来发展方向是专注于某一个领域，提高执行效率。
• AutoGPT 实现了任务自动规划、工具调用和结果评估等功能，与人类解决问题的方法类似。
• AI 技术的组件化使各种技术可以互相调用、协作，从而组合成更强大的系统。
• 通过实验室实践，实现大语言模型在特定领域的集成和改进。

GPT 4 的能力涌现与连接主义

• 微软之前发布了关于 GPT-4 的研究论文，主要研究其涌现出的潜力。
• GPT-4 具有强大的潜力，如推理能力、规划能力、解决问题能力以及验证等。
• 软件已经进入了 2.0 时代，神经网络和算法一起为训练形成的软件。
• 研究者逐渐意识到 GPT-4 已经具备了萌芽阶段的 AGI 的特点。
• GPT-4 的涌现能力可能成为 A I未来的主要发展方向，而复杂任务的规划在其发展过程中占据关键地位；展现出强大的泛化能力，解决许多 GPT-3.5 无法解决的任务。
• GPT-4 具有更丰富的世界观，研究者很难解释其具体原因，但与人类的认知和理解方式有很多相似之处。
• 人工智能从混沌中产生的秩序，可能成为智能的常态。符号主义和连接主义的争议可能在 AI 领域的胜利。
• 量子力学及其他领域的研究很多时候都是先找到可用的东西，然后再探究其原理。
• 哲学家 维特根斯坦 关于世界的连续性观点启发了关于符号学的思考。
• 当前训练大型语言模型（如GPT-4）为人类创造了一种新的智能形式，有时难以用人类的逻辑和理性解释。
• 随着 AI 技术的发展，我们正进入一个人类和其他智能体共同解释世界的时代。
• 目前，AI 的道德、社会及法律地位尚待探讨，如AI是否应该享有类似的人权等。
• 未来的 AI 进化可能会包括自我 prompt、自我迭代及自我驱动等新能力，从而更接近人的思维模式；AI 的逻辑能力和目标感有望在未来版本中不断变强，这将有助于未来的共同发展。

未来的 AI 有可能在与人类的共同发展中实现自我学习和实时互动，进一步模拟人类的思维模式。影响如何看待和使用 AI 的是诸多微妙的因素，如其来源、实体及与人类的关系等。随着技术进步，我们需要对 AI 的认知和态度做出相应的调整。

ChatGPT Plugin 功能带来的机会

• GPT-4 发布了 plugin 功能，降低了使用门槛，吸引了众多程序员尝试。
• Plugin 功能通过接入外部数据源弥补了 ChatGPT 的信息不足。
• 通过插件功能实现自然语言驱动的胶水编程，简化 API 对接。
• 插件使 ChatGPT 具有更强的逻辑及执行代码能力，形成更智能的助手。
• ChatGPT 作为平台，可接入第三方服务，实现助手到助手的场景。
• 聊天模式可能成为未来人机交互的主要形式。
• 未来 App 设计逻辑可能会以语言交互为主，简化界面操作。
• AI 将从生成式能力扩展到执行代码、浏览网页等多个领域能力。
• 结合插件功能和外部数据源，解决并优化用户查询助手的效率问题。
• 融入语言和现有工具的产业环境将产生革新性变化，为投资市场和终端用户提供新机会。

如何看大语言模型下的 AI 创业

• 技术革命早期较难预测未来，应尽可能保持开放心态。
• 早期创业者在技术变革中积累的经验具有很高的壁垒。
• 深刻的技术变革可能来自一开始看似玩具般的创新。
• 年轻人更适应新技术革命，具备更开放的思维和更多的时间去尝试。
• 开源和闭源生态的竞争，如何选择合适的技术框架。
• 中间层框架的发展空间以及未来的可能性。
• 降低 AI 模型成本和提高效率的尝试，如 Colossal.AI。
• 关注年轻一代在 AI 领域的积极探索，发掘有潜力、有创新精神的创业者。
• 要关注从底层大模型到中间层框架再到具体应用的发展过程，关注各个层次的变化和机会。
• 积极尝试新事物，保持 AI 感，亲自体验和使用新产品和技术。

通过智能代理运行的新组织

• 在智能时代的变革中，核心目标是抓住变革时期的重要潮流和机遇。
• AI 大模型如 GPT-4 在智能时代中发挥着关键作用。
• 利用现有的开源技术和中等规模的模型，结合大模型，实现任务规划和智能化操作。
• 把不同能力的 AI 模型组织起来，执行更复杂的任务或更快速地完成任务。
• 跨足数字世界和现实世界，实现智能体的全方位认知和了解。
• 基于智能化的组织将不再由人组成，而是由一个有机系统组成。
• 在未来，可能会有更高效的 AI 之间的沟通语言，而非目前的自然语言。
• 拥有足够算力和数据资源成为训练不同职业和分工的基础。
• 在不断发展的 AI 领域，未来的终局判断仍然充满不确定性。
• 培训具有不同能力的 AI，以适应不同任务和场景，可以创造更多价值。

总之，智能时代带来了许多新的机会和挑战。我们需要全面掌握 AI 的发展，并利用不同能力的模型来解决更复杂的问题。在未来，我们可能会看到更加智能化和自动化的组织和应用。

AGI 的到来对社会的影响

• AGI（通用人工智能）时代的到来，最缺的是能源，例如核聚变等新型能源技术。
• 人工智能和算力的发展要求高效地开发和利用能源，将能源转化为服务人类的算力。
• 未来的生产方式将越来越简单，主要依赖电力进行新型智能制造。
• 比特世界的变化会比原子世界快很多；我们总是对于比特世界的事情低估了，却对原子世界的事情高估了。
• 当前的 AI 发展具备阶梯属性，新的技术和范式可能带来突变式的进步。
• 不仅要关注 AI 技术本身，还要关注其在社会学、心理学等方面的影响。
• 人类在智能时代可能未做好应对各种变化的准备。
• AI 时代对安全、道德等方面的挑战非常大，需要制定相应的规则约束。
• 人工智能发展速度很快，而人类很容易用惯性思维看待问题。
• 人类需要更好地准备AI时代的到来，包括解决失业、道德和安全等问题。
• 对于 AI 的发展，我们需要保持谨慎乐观，关注 alignment 和 safety 等核心课题。
  

相关参考

跨越鸿沟（Crossing the chasm）- Jeffery Moore 于 1991 年提出

AutoGPT - An experimental open-source attempt to make GPT-4 fully autonomous.
更详细的介绍：参考 orange.ai 的这篇《AutoGPT，从语言模型到赛博具身》

Sparks of Artificial General Intelligence: Early experiments with GPT-4

来自真格基金的翻译：
最详细全文翻译（上）｜微软155页大工程首次揭示 GPT-4 超能力
最详细全文翻译（下）｜微软155页大工程首次揭示 GPT-4 超能力

Sparks of AGI 视频版：
Sparks of AGI: early experiments with GPT-4 - Sebastien Bubeck

GPT-4 发布前夜访谈 Ilya Sutskever - kunchengblog 翻译
视频：GPT-4 Creator Ilya Sutskever

Yann LeCun on a vision to make AI systems learn and reason like animals and humans
翻译：学习“世界模型”的能力是构建人类级 AI 的关键所在
图灵奖获得者 Yann LeCun

AI for the Next Era
视频：OpenAI's Sam Altman on the New Frontiers of AI

ChatGPT Plugins - Plugins are tools designed specifically for language models with safety as a core principle and help ChatGPT access up-to-date information, run computations, or use third-party services.

LangChain -  a framework for developing applications powered by language models

Colossal.AI - maximize the runtime performance of your large neural networks

大语言模型时代，AI和人类谁更懂你？ - 拾象 x 真格对谈

Alignment（对齐）

在人工智能领域，AI Alignment （对齐）研究旨在引导人工智能系统朝着设计者预期的目标和利益发展。一个对齐的 AI 系统推进预期目标的实现；一个不对齐的AI系统在推进某个目标方面具有能力，但不是预期目标。