“马斯克联名信”发起方独家回应：希望唤醒公众对AI安全的关注

        腾讯新闻《潜望》纪振宇 发自硅谷

近日，一封由包括马斯克、图灵奖得主Yoshua Bengio、苹果联合创始人Steve Wozniak等在内的多位业界知名人物联名签署的一封名为“暂停大型人工智能实验”的公开信，呼吁所有的人工智能实验室立即对比GPT-4更强大的人工智能系统的训练至少暂停6个月。

此公开信一经公布，立即引发了轩然大波，一方面，OpenAI研发的大型人工智能语言模型GPT取得突飞猛进的进展，让沉寂多年的AI研究领域重新成为关注的焦点，但另一方面，以这封公开信为代表的另一类观点则认为，目前人工智能的进展，会对人类社会带来显著的风险，需要有计划有管理地审慎对待，但遗憾的是，目前为止相应的规划和管理并没有能同步跟进。

截至发稿，公开信签署人数已经超过1700名

“只有在我们对于强大的AI系统所带来的效应是正向的以及风险是可控的情况下，这样的系统才应该被开发。”公开信称。

截至发稿，此公开信的签名人数已经达到1709名，其中不乏像马斯克、Bengio等在业界有着举足轻重影响力的人物。

腾讯新闻独家联系到这封公开信的发起方“生命未来研究院”（Future of Life Institute, FLI）就这封公开信的发起目的、签名验证方式及后续计划等问题进行了询问。

FLI的执行总监Anthony Aguirre对腾讯新闻《潜望》独家回应称，对于签署公开信的确认过程，他们的流程是，在签署人提交姓名、邮箱地址后，需要进入邮箱进行验证，同时会有工作人员用谷歌搜索此人，核对邮箱，并判断这些是否一致。

对于知名人士，他们会采取进一步的验证步骤，包括直接与本人或者他们的助理取得联系，或者寻求他们用自己能够控制的网络账号公开发表的言论（例如推特）。

Aguirre说，这封公开信是由Future of Life Institute联合其他的一些机构和学术界人工智能团体和专家共同起草的，包括该机构自己的AI 专家Max Tegmark，Richard Mallah和Stuart Russell等人。

Aguirre表示，发布这份公开信的目的主要有三个方面：一是要求 AI 实验室负责人暂停 AI 开发，以允许在安全方面进行国际合作，同时消除商业压力；二是告诉公众和政策制定者，AI 专家、技术领导者和研究人员有多担心——AI 开发人员被困在一个激励系统中，这使得安全 AI 变得非常困难；三是为重大行动创建一个政策窗口。

“我们希望以独立的声音与 AI 领导者和政策制定者进行讨论，并在可能的情况下促进他们之间的对话和达成共识。”Aguirre说。

起底Future of Life Institute

生命未来研究所 (Future of Life Institute, FLI) 是一家致力于减少人类面临的全球灾难性和生存风险，尤其是先进人工智能 (AI) 带来的生存风险的非盈利机构。

该研究所的工作由三个主要部分组成：为降低风险提供资助、教育推广以及在联合国、美国政府和欧盟机构内的宣传。其创始人包括麻省理工学院宇宙学家马克∙斯泰格马克和 Skype 联合创始人简塔林，其顾问包括特斯拉首席执行官埃隆∙马斯克。

FLI 称，自己的使命是减少来自强大技术的全球灾难性和生存风险。 这家机构特别关注人类水平或超智能人工智能 (AGI) 的发展给人类带来的潜在风险，但也致力于研究生物技术、核武器和气候变化带来的风险。 该研究所的工作包括在联合国、美国政府和欧盟机构内为减少风险、教育推广和宣传提供资助等。

该研究所于 2014 年 3 月由麻省理工学院宇宙学家 Max Tegmark、Skype 联合创始人 Jaan Tallinn、DeepMind 研究科学家 Viktoriya Krakovna、塔夫茨大学博士后学者 Meia Chita-Tegmark 和 UCSC 物理学家 Anthony Aguirre 创立。

该研究所的顾问包括计算机科学家 Stuart J. Russell 和 Francesca Rossi、生物学家 George Church、宇宙学家 Saul Perlmutter、天体物理学家 Sandra Faber、理论物理学家 Frank Wilczek、企业家 Elon Musk，以及演员和科学传播者 Alan Alda 和 Morgan Freeman，宇宙学家史蒂芬∙ 霍金在 2018 年去世之前也曾担任该机构的顾问。

2015 年，伊隆·马斯克向FLI研究项目捐赠了 1000 万美元。与典型的 AI 研究不同，该项目的重点是使 AI 更安全或对社会更有益，而不仅仅是更强大。

在第一轮项目拨款中，该机构共向 37 个研究项目拨款 700 万美元。 2021 年 7 月，FLI 宣布将在以太坊创始人Vitalik Buterin 的资助下启动一项新的 2500 万美元的资助计划。

该机构的注册地位于美国宾夕法尼亚州的Narberth市，此外在美国硅谷地区和比利时布鲁塞尔也设有办公室。