OpenAI 量子大神 Aaronson：AI 未来可期，何来自信看衰？

一、Aaronson 何许人也？

Scott Aaronson 是德克萨斯大学奥斯汀分校计算机科学教授及量子信息中心主任，量子计算领域泰斗、ACM 计算奖得主，如今在 OpenAI 从事理论研究。

Aaronson 在量子计算领域成就斐然。他本科毕业于康奈尔大学，后在加州大学伯克利分校获得博士学位，还在加拿大滑铁卢大学量子计算研究所做过博士后研究员。2007 – 2016 年在麻省理工学院任教，2016 年至今在德州大学奥斯汀分校任教，任全职教授。

他的研究领域包括量子计算机的性能与局限，更广义的计算复杂度理论等。他帮助发展了 “量子霸权” 概念，建立了许多量子霸权实验的理论基础。量子霸权是指当一个量子设备能够在合理的时间内解决一个经典计算机无法解决的问题时，就达到了一个 “里程碑”。

Aaronson 不仅在学术研究上成果丰硕，还致力于科普工作。他的个人博客 “Shtetl-Optimized” 经常从科普向角度解答一些关于量子计算的问题，广受欢迎。他撰写的《谁可以命名更大的数字？》一文在计算机科学学术界中得到了广泛传播。他讲授的面向研究生的调查课程《自德谟克利特以来的量子计算》的讲义已由剑桥大学出版社出版。书中涵盖量子力学、复杂度、自由意志、时间旅行、人类准则等内容。知名科普期刊《科学美国人》曾发表了他的《量子计算机的局限性》一文，他的观点和言论也经常被大众主流媒体所引用。

2021 年 4 月，美国计算机协会（ACM）将 2020 年的 ACM 计算奖颁给了 Aaronson，以表彰他在量子计算领域所作的贡献。ACM 介绍道，量子计算的目标是利用量子物理学定律来构造设备，以解决经典计算机无法解决或者无法在任何合理时间内解决的问题。而 Aaronson 向我们展示了计算复杂性理论的研究结果如何为量子物理学定律提供新的见解，并且清楚地说明了 “量子计算机能做什么，不能做什么”。

二、Aaronson 对 AI 的乐观态度

Aaronson 对于有些看衰 AI 发展速度的言论表示不解，认为 AI 进步速度极快，比如三年时间就从 “上小学” 到 “读研究生”，他觉得 5 到 10 年后会有能帮我们写研究论文、做原创数学研究的 AI。

Aaronson 之所以对 AI 发展持乐观态度，是因为他见证了近年来大语言模型和其他生成式 AI 取得的惊人成就。在他看来，这些成就生动地展示了单纯用经典计算就能产生多么高水平的智能。就如同三年前 AI 可能还处于较低的发展水平，如今却已经有了极大的进步，如同从 “上小学” 成长到 “读研究生”。

他认为，从目前的发展趋势来看，5 到 10 年后很有可能会出现能够帮我们写研究论文的 AI，以及能做原创数学研究的 AI。在他的观点中，这种论证是有充分依据的，那些看衰 AI 发展速度的言论根本站不住脚。

Aaronson 对量子计算也有着深刻的理解，他指出量子计算最大的理论挑战，就是要弄清量子计算机到底能用来做什么。目前已经有几类问题可能获得指数级的量子加速，其中包括模拟量子物理和化学系统本身，以及破解目前保护互联网的公钥密码系统。此外，大家也在探索量子计算机的其他用途，如 Grover 算法在加速计算机科学中的很多基础问题上有着潜在的应用价值。

Aaronson 的观点不仅仅基于理论推测，还源于他在 OpenAI 从事 AI 安全和一致性的理论基础研究的实践经验。在这个过程中，他深刻体会到了 AI 技术的飞速发展和巨大潜力。他的学生 Paul Christiano 不仅在量子计算领域取得成就，还参与创建了 OpenAI 的安全团队，这也让他更加坚信 AI 的未来发展前景。

三、Aaronson 在 OpenAI 的研究及观点分享

（一）量子计算与 AI 的关联

1. 量子计算对材料科学、新药研发等领域的帮助，如模拟量子物理和化学系统本身。

量子计算在材料科学、新药研发、太阳能电池和高温超导体的设计等方面都有着巨大的帮助。例如，通过量子模拟可以准确计算材料的电子结构，包括电子能级、费米面和波函数等信息，这些信息对于理解材料的性质至关重要。量子模拟还可以研究材料中的电子相互作用、拓扑性质、相变行为、材料设计、材料表征、计算化学和生物物理学等问题。此外，基于神经网络的方法正迅速成为模拟具有强量子属性材料的领先技术，AI 模型通过学习大量化学、生物分子和材料数据中的模式，可以预测特定化学结构可能具有的特性，而其运行成本比传统的计算方法低几个数量级。

2. 量子计算可能破解保护互联网的公钥密码系统，但也带来一定风险。

破解目前保护互联网的公钥密码系统是量子计算的一个重要应用，但这个能力对人类整体来说不一定是好事，因为它可能会对互联网安全造成威胁。不过，如果我们及时换成抗量子密码系统，就可以降低这种风险。此外，量子计算只能破解某些密码，而不是全部，例如私钥密码受到的影响应该很小，甚至还有一些候选的公钥密码系统，经过 20 多年的尝试，仍然没有人知道如何进行量子破解。

3. 探索量子计算机在其他问题上如组合优化、机器学习任务中的应用。

大家一直在探索量子计算机在其他问题上的应用，如组合优化问题和机器学习任务。目前，量子计算机在这些问题上能否达到指数级的加速仍然是个活跃的研究课题。有些人认为量子计算机在这些问题上没问题，但说实话，这些都还在研究中。

（二）关于预测的极限

量子力学是我们目前理解的物理定律中，唯一一个把概率直接写进基本法则的。这确实告诉我们，概率是宇宙的一个基本现象，或者至少是我们经历的宇宙的基本现象。量子力学可以说是人类有史以来发现的最深刻的经验事实了，因为它不只是修改了物理学的某个细节，也不只是修改了时间和空间，它彻底改变了我们理解物理系统状态的方式。如果你给我一个方程，像费马大定理那样，问它是否有整数解，或者给你一组砖块问它们能不能铺满整个平面，这些都是不可计算问题的例子。这意味着不存在任何算法、任何计算机程序能正确解决这类问题的任意实例。量子力学把概率直接写进基本法则，告诉我们概率是宇宙的基本现象，这也意味着我们在预测某些问题时会受到一定的限制。

四、OpenAI 发布的 AI 生成文本分类器

OpenAI 发布了官方的 AI 生成文本分类器，作者包括量子计算大神 Scott Aaronson。这个分类器是一种语言模型，针对同一主题的人工文本和 AI 文本对的数据集进行了微调。从被认为是由人类编写的各种来源收集了数据集，例如预训练数据和提交给 InstructGPT 的人类演示。分类器将每个文本分为提示和响应，并根据提示生成来自不同语言模型的响应。

对于网页应用，OpenAI 调整了置信度阈值以保持较低的误报率，即只有当分类器非常有信心时，才会将文本标记为可能是 AI 编写的。然而，这个分类器并不完全可靠。在对英语文本 “挑战集” 的评估中，分类器正确地将 26% 的 AI 编写文本识别为 “可能是 AI 编写的”，同时错误地将 9% 的人类编写文本标记为 AI 编写的。分类器的可靠性通常会随着输入文本长度的增加而提高。

与之前发布的分类器相比，这个新的分类器在来自更新一些的 AI 系统的文本上的可靠性要高得多。该分类器在少于 1000 个字符的短文本非常不可靠，甚至更长的文本都会被错误标记，有时还会将人类编写的文本错误地标记为人工智能生成。目前分类器仅能用于成人编写的英文文本，可能会在儿童书写的文本和非英文文本上出错，也无法用于识别高度可预测的文本。

虽然这个分类器存在一些局限性，但它为辅助解决自动化误导性活动和学术欺骗等问题提供了一定的参考价值。通过这个分类器，OpenAI 试图缓解 ChatGPT 等强大语言模型可能在各领域遭到滥用的乱象。

五、Aaronson 加盟 OpenAI 的历程

Scott Aaronson 宣布离开 UT Austin 一年到 OpenAI 从事理论研究，尤其是 AI 安全和一致性的理论基础，包括思考计算复杂性对于让 AI 做我们想做的事而非不想做的事的原则性理解等问题。

这一决定是经过与 OpenAI 的相关人员深入交谈后的结果。出于家庭原因，Aaronson 将主要在德克萨斯州的家中进行工作，但也会时不时前往位于旧金山的 OpenAI 办公室。在 OpenAI 工作期间，他还会花 30% 的时间继续管理奥斯汀大学的量子信息中心，与学生和博士后一起工作。

Aaronson 加盟 OpenAI 的历程并非偶然。OpenAI 的机器学习研究员 Jan Leike 看到 Aaronson 在博客中与人讨论 AI 一致性的问题，便写邮件询问其是否有意认真研究该问题。Aaronson 在与 Leike 和 OpenAI 的其他人，以及更广泛的 AI 安全领域人士深入交流后，最终决定先离开教学工作一段时间，加入 OpenAI。他减少了现有的工作，并与众多 AI 安全研究人员会面，且随身携带一堆技术论文，以了解该领域的最新成果。

Aaronson 表示，自己在 OpenAI 的工作就像一次探索之旅。他承认暂时还不清楚具体会从事哪些项目，但提出了几种可能性。首先，他可能会得出一个关于样本复杂性的一般理论，以便在危险环境中学习。其次，可能会致力于机器学习的可解释性，即当给定一个产生特定输出的深度神经网络，对为什么产生该输出而进行解释，并思考找到该解释的计算复杂性。第三，可能会研究弱智能体验证强智能体行为的能力。

Aaronson 对在 OpenAI 的工作充满期待，他认为这是一个将复杂性理论引入 AI 安全领域的机会，也是追随学生脚步、拓展自己研究领域的契机。同时，他也清楚自己在 OpenAI 的工作面临着挑战，不仅要探索未知的研究领域，还要平衡家庭、教学和研究工作之间的关系。但他坚信，通过在 OpenAI 的工作，他能够为 AI 的安全和一致性研究做出贡献，为实现通用人工智能造福全人类的目标贡献自己的力量。