纽约今天开AI安全大会！OpenAI、Google、Meta等将接受市议会质询

发贴员

纽约市今天（10月5日）将举行一场备受关注的人工智能安全听证会。纽约市议会将以罕见的“全体委员会”（Committee of the Whole）形式召开会议，51名市议员均可参与，重点讨论人工智能快速发展可能带来的安全、隐私及公共责任问题，并审议一系列针对AI行业的新监管提案。

根据纽约市议会公布的信息，Anthropic、OpenAI、Google和Meta均已同意派代表出席并在宣誓后公开作证。纽约市议会表示，除Meta外，另外几家公司是在市议会明确提出可能发出传票后确认参加。对于尚未回应出席要求的SpaceXAI，市议会此前已经发出传票要求其参加听证会。

此次听证会另一个受到关注的人物，是前Anthropic研究员Jacob Coxon。据报道，Coxon计划在听证会上作证。他上个月离开Anthropic后曾公开对先进人工智能的发展速度及潜在风险提出严重警告。前Google DeepMind研究员Alex Turner，以及AI Futures Project执行董事、前OpenAI研究员Daniel Kokotajlo等AI安全领域人士也预计参加。

纽约市议会此次讨论的不只是AI的长期风险，更涉及可能直接影响纽约企业和普通居民的一系列监管措施。

其中一项提案要求，在纽约市销售、提供或部署的AI系统接受独立第三方验证，检查数据质量、偏见、隐私、安全等问题，并要求相关系统具备可以由人工关闭的“kill switch（紧急关闭机制）”。

另一项提案计划建立AI行业举报奖励机制。如果举报人的信息最终帮助政府发现违法行为并追回罚款或处罚款项，举报人可能获得其中一部分。

此外，市议会还考虑赋予受到AI系统伤害的纽约居民在特定情况下起诉开发公司的权利，同时要求部分与纽约市政府合作的承包商在发现AI安全事故后及时报告。针对聊天机器人隐私、AI虚假宣传以及Deepfake等问题，也有相关提案正在讨论。

纽约市议会议长Julie Menin表示，纽约正在迅速成为科技和人工智能产业的重要中心，市政府希望继续鼓励创新，但同时认为必须建立适当的安全措施保护纽约居民。

这场听证会之所以受到科技行业关注，还因为纽约市正在尝试从地方政府层面建立更具体的AI监管框架。如果部分提案最终通过，未来在纽约部署AI产品的科技公司可能面临第三方安全验证、事故报告、消费者责任以及信息披露等更多要求。

目前这些措施仍处于听证和立法讨论阶段，并不代表已经成为纽约市法律。今天听证会中科技公司代表、AI安全研究人员以及纽约市议员之间的交锋，以及各家公司如何回应安全与监管问题，将成为接下来的关注重点。