突传大消息！美国正在筹备成立一个全新的AI安全委员会

美国出手了！

最新消息显示，美国正在筹备成立一个全新的AI安全委员会，OpenAI的创始人山姆·奥特曼、英伟达CEO黄仁勋、微软CEO纳德拉等科技巨头高管将加入。

美国国土安全部部长马约卡斯表示，将人工智能技术嵌入国家的供水设施、交通系统和银行为改善服务以造福美国人民的日常生活提供了“巨大的机会”，但也带来了重大风险。

值得注意的是，截至美股北京时间今天凌晨收盘，英伟达报收877.35美元/股，大涨6.18%。谷歌大涨超10%，报收171.95美元/股，总市值首次站上2万亿美元。

“AI安全委员会”

据华尔街日报报道，英伟达CEO黄仁勋、OpenAI首席执行官山姆·奥特曼、微软CEO纳德拉、谷歌母公司Alphabet首席执行官皮查伊等科技巨头高管将加入一个新的美国联邦咨询委员会——AI安全保障委员会，该委员会的工作重点是在美国关键基础设施中安全使用人工智能。

据报道，该委员会将与美国国土安全部合作，为电网运营商、运输服务提供商和制造工厂等制定建议，说明如何在使用AI的同时保护其系统免受潜在破坏。美国官员表示，AI安全保障委员会是美国政府推动保护经济、公共卫生和重要行业免受AI威胁危害的一部分，该委员会的成立，标志着美国政府在人工智能安全领域的积极态度和坚定决心。

据悉，该委员会将由近20人组成，小组成员还包括政府官员、学者、民权领袖以及关键基础设施行业高管。除了黄仁勋、山姆·奥特曼、纳德拉、皮查伊外，还包括诺斯诺思罗普·格鲁曼公司的首席执行官凯西·沃登和达美航空公司首席执行官埃德·巴斯蒂安。其他成员是公职人员，如马里兰州州长韦斯·摩尔和西雅图市长布鲁斯·哈雷尔，他们都是民主党人。

美国国家安全官员长期以来一直警告国家关键基础设施的漏洞，包括潜在的物理攻击、网络入侵和事故。虽然人工智能可以提高燃料管道、通信网络、航空和医院的效率和安全性，但它也可能产生意想不到的问题。

美国国土安全部部长马约卡斯在接受采访时表示，将人工智能技术嵌入国家的供水设施、交通系统和银行为改善服务以造福美国人民的日常生活提供了“巨大的机会”，但也带来了重大风险。

马约卡斯说：“在关键基础设施方面，如果不能以安全、可靠和负责任的方式部署人工智能，可能会造成毁灭性的后果。”人工智能在关键基础结构领域的潜在用途包括工厂的自动化任务（通常由人完成）、帮助医生诊断患者和检测电力设施中的异常情况。

去年10月30日，美国总统拜登签署一项行政命令，为人工智能安全制定了新标准。美国媒体称，这是拜登政府对人工智能技术采取的第一项具有约束力的重大行动。

这一行政令要求，美国最强人工智能系统的研发人员需与政府分享其安全测试结果及其他关键信息；完善相关标准和测试工具，确保人工智能系统安全、可靠；制定严密的合成生物检查新标准，防范使用人工智能设计危险生物材料的风险；建立检测人工智能生成内容和验证官方内容的标准和最佳实践，以帮助民众防范人工智能驱动的欺诈；建立先进的网络安全计划，开发人工智能工具查找和修补关键软件漏洞；研发制定“国家安全备忘录”，指导人工智能和安全方面的进一步行动。

据介绍，美国国家标准与技术研究所将制定严格的人工智能“红队”标准。美国国土安全部将把这些标准应用于核心基础设施项目，并成立人工智能安全委员会。美国能源部和国土安全部将具体应对人工智能系统对关键基础设施的威胁，及其带来的化学、生物、放射性材料、核及网络安全风险。

前景广阔

有分析人士指出，加强监管的背后，是人工智能行业的迅猛发展。当前，全球AI热潮如火如荼，行业前景广阔。

据中国信通院数据，2023年，全球人工智能市场规模收入达5132亿美元，同比增长20.7%，预计到2026年，市场规模将达到8941亿美元，年复合增长率为20.33%。另外，高德纳咨询公司预测，到2025年，全球90%的公司将使用ChatGPT等生成式人工智能工具，这将大幅提高生产效率。

彭博社近日报道称，美国总统拜登和日本首相岸田文雄已争取到亚马逊和英伟达的支持，为一个新的人工智能联合研究项目提供资金。两国寻求在快速兴起的AI技术方面增进协作。一位高级别美国官员透露，这个规模5000万美元的项目将由华盛顿大学和筑波大学共同实施。两国另外还计划开展一项联合AI研究项目，由卡内基梅隆大学和庆应义塾大学共同参与。

另外，微软4月9日宣布，将投资29亿美元，强化该公司在日本的AI和云计算基建。岸田文雄当天与微软总裁BradSmith会面，该公司在一份声明中称，计划在日本开设一家新的实验室，专注AI和机器人技术。岸田文雄敦促美国企业高管增加在日本的新兴技术投资。

北京时间4月26日凌晨，微软公布的第三季度营收和利润超出了华尔街的预期，这得益于其云服务采用人工智能带来的收益。同时披露财报的还有谷歌，该公司与AI相关性较高的云业务营收为95.74亿美元，同比增长超28%，超出了市场预期。这两家巨头的最新财报向投资者表明，大举投资人工智能可以带来收益增加。美国银行策略师表示，微软和谷歌公布的业绩强劲，预计会令大型科技股的涨势得以维持。

彭博社援引一位知情人士消息称，埃隆·马斯克的人工智能AI初创公司X.AICorp．即将达成在一轮融资中筹集60亿美元的协议，这对公司的估值为180亿美元。这位知情人士说，红杉资本等投资者将参与这轮融资。