7月14日,据科技媒体The Verge报道,谷歌DeepMind创始人兼CEO德米斯·哈萨比斯(Demis Hassabis)在一篇博文中呼吁,美国政府应成立一个全球AI监督机构,赋予其在前沿AI模型发生险情时“踩下刹车”的权力。哈萨比斯认为,美国应主导这一倡议并制定全球标准,“鉴于其经济和技术地位”,美国是制定全球标准的最佳地点。
哈萨比斯提议,该机构可参照美国金融业监管局(FINRA)的模式,由行业资助、在政府监督下运作。该机构应由独立的顶尖专家和开源社区代表组成,有权在前沿模型发布前进行安全评估,并在某款模型被判定风险过高时,协调整个行业放缓发布节奏。
哈萨比斯在题为《前沿AI与新纪元框架》的博文中指出,随着AI系统日益复杂,全球监管的需求正变得越来越紧迫。他认为通用人工智能(AGI)“可能只有几年之遥”,回顾这个时代,人们会意识到“我们正站在奇点山麓——人类新纪元的黎明”。据悉,哈萨比斯过去几个月一直在悄悄推进这一提案,已向特朗普政府、其他AI实验室和欧洲官员进行简报,希望该机构能在今年年底前投入运作。
