总裁 Sally Kornbluth 和 OpenAI 首席执行官 Sam Altman 讨论 AI 的未来

人工智能领域如何发展，它对工作、教育和人类的未来意味着什么？5 月 2 日，麻省理工学院校长 Sally Kornbluth 和 OpenAI 首席执行官 Sam Altman 在麻省理工学院校园的广泛讨论中涵盖了所有这些以及更多内容。

OpenAI 的 ChatGPT 大型语言模型的成功有助于刺激人工智能领域的投资和创新浪潮。ChatGPT-3.5 在 2022 年底发布后成为历史上增长最快的消费软件应用程序，有数亿人使用该工具。从那时起，OpenAI 还展示了人工智能驱动的图像、音频和视频生成产品，并与 Microsoft 合作。

该活动在座无虚席的 Kresge 礼堂举行，捕捉了围绕 AI 的激动人心的时刻，并着眼于未来。

“我想我们大多数人都记得我们第一次看到 ChatGPT 时会说，'哦，天哪，这太酷了！'科恩布鲁斯说。“现在我们正试图弄清楚这一切的下一代将是什么。

就阿尔特曼而言，他欢迎人们对他的公司和更广泛的人工智能领域的高期望。

“我认为这太棒了，两周来，每个人都对 ChatGPT-4 感到恐惧，然后到了第三周，每个人都在说，'拜托，GPT-5 在哪里？'阿尔特曼说。“我认为这说明了人类的期望和努力，以及为什么我们都必须[努力]让事情变得更好。

人工智能的问题

在讨论的早期，Kornbluth 和 Altman 讨论了人工智能带来的许多道德困境。

“我认为我们在如何围绕一组价值观调整系统方面取得了令人惊讶的良好进展，”阿尔特曼说。“尽管人们喜欢说'你不能使用这些东西，因为它们一直在喷出有毒废物'，但 GPT-4 的行为方式有点像你想要的方式，我们能够让它遵循一组给定的价值观，虽然不是很好，但比我预期的要好。

阿尔特曼还指出，在许多情况下，人们并没有就人工智能系统应该如何表现达成一致，这使得创建通用行为准则的努力变得复杂。

“我们如何决定一个系统应该具有什么价值？”奥特曼问道。“我们如何决定一个系统应该做什么？社会在多大程度上定义了界限，而不是信任用户使用这些工具？不是每个人都会按照我们喜欢的方式使用它们，但工具就是这种情况。我认为给人们很多控制权很重要......但有些事情是系统不应该做的，我们必须集体协商这些事情是什么。

科恩布鲁斯同意，消除人工智能系统中的偏见等事情将很困难。

“思考我们是否可以使模型比我们作为人类更少偏见是很有趣的，”她说。

Kornbluth还提出了与训练当今大型语言模型所需的大量数据相关的隐私问题。阿尔特曼说，自互联网诞生以来，社会一直在努力解决这些问题，但人工智能正在使这些考虑变得更加复杂和风险更高。他还看到了强大的人工智能系统的前景所提出的全新问题。

“我们将如何在隐私、实用性与安全之间取得平衡？”奥特曼问道。“我们每个人都决定设定这些权衡，以及如果有人让系统在他们的一生中接受培训，将可能带来的优势，是社会导航的新事物。我不知道答案会是什么。

对于围绕人工智能的隐私和能源消耗问题，阿尔特曼表示，他相信未来版本的人工智能模型的进展会有所帮助。

“我们希望从 GPT-5 或 6 或其他任何东西中得到什么，让它成为最好的推理引擎，”阿尔特曼说。“的确，现在，我们能够做到这一点的唯一方法是在大量数据上对其进行训练。在这个过程中，它正在学习如何做非常非常有限的推理或认知，或者任何你想称呼它的东西。但是，事实上，它可以记住数据，或者它完全将数据存储在参数空间中，我想我们会回头说，'这有点奇怪的资源浪费。我认为在某个时候，我们将弄清楚如何将推理引擎与对大量数据的需求或将数据存储在[模型]中分开，并能够将它们视为独立的东西。

Kornbluth还询问了人工智能如何导致工作岗位的流失。

“对于从事人工智能工作的人来说，最让我恼火的一件事是，当他们板着脸站起来说，'这永远不会导致任何工作岗位的淘汰。这只是一个附加的东西。这一切都会很棒，'“阿尔特曼说。“这将消除很多现有的工作岗位，这将改变很多现有工作岗位的运作方式，这将创造全新的工作岗位。这总是发生在技术上。

人工智能的前景

阿尔特曼认为，人工智能的进步将使解决该领域当前所有问题变得值得。

“如果我们花费世界上1%的电力来训练一个强大的人工智能，并且人工智能帮助我们弄清楚如何获得非碳基能源或更好地进行深度碳捕获，那将是一个巨大的胜利，”阿尔特曼说。

他还表示，他最感兴趣的人工智能应用是科学发现。

“我相信（科学发现）是人类进步的核心引擎，这是我们推动可持续经济增长的唯一途径，”阿尔特曼说。“人们对GPT-4不满意。他们希望事情变得更好。每个人都希望生活得更多、更好、更快，而科学就是我们实现目标的方式。

科恩布鲁斯还向阿尔特曼询问了他对考虑职业的学生的建议。他敦促学生不要限制自己。

“在你职业生涯的早期要学到的最重要的一课是，你可以弄清楚任何事情，没有人在开始时就拥有所有的答案，”阿尔特曼说。“你只是磕磕绊绊地走过来，迭代速度很快，试着转向对你来说最有趣的问题，和最令人印象深刻的人在一起，相信你会成功地迭代到正确的事情。...你可以做得比你想象的更多，比你想象的要快。

该建议是阿尔特曼关于保持乐观和努力创造更美好未来的更广泛信息的一部分。

“我们教导我们的年轻人，世界完全搞砸了，试图解决问题是没有希望的，我们所能做的就是坐在黑暗中的卧室里，想想我们有多糟糕，这是一种非常无益的连续，”阿尔特曼说。“我希望麻省理工学院与许多其他大学校园不同。我想是的。但你们都需要把它作为你人生使命的一部分，与它作斗争。繁荣，富足，明年过上更好的生活，我们的孩子过上更好的生活。这是唯一的前进道路。这是让社会正常运转的唯一途径......反进步的连胜，反'人民应该过上美好的生活'的连胜，是我希望你们都反对的。