根据“布莱切利宣言”内容,与会国一致认为,人工智能已经部署在日常生活的许多领域,在为人类带来巨大的全球机遇的同时,还在网络安全、生物技术等关键领域带来了重大风险。
“人工智能模型最重要的功能,可能会有意或无意地造成严重甚至灾难性的伤害,”宣言写道,“鉴于人工智能快速且不确定的变化速度,以及技术投资加速的背景下,我们确信加深对这些潜在风险的理解以及应对风险的行动尤为紧迫”。
与会国强调,对于最有可能发现的与前沿人工智能相关的具体风险,各国决心加强和维持合作,通过现有的国际论坛和其他举措,识别、理解有关风险并采取适当行动。
路透社认为,“布莱切利宣言”提出了一个双管齐下的议程,重点是确定共同关注的风险,建立对这些风险的科学理解,同时制定减轻这些风险的跨国政策。
“布莱切利宣言”截图
根据科技部网站消息,中国科技部副部长吴朝晖出席峰会,并于1日举行的开幕式全体会议上发言。
中方指出,人工智能治理攸关全人类命运,是世界各国面临的共同课题。发展人工智能,应当积极倡导以人为本,智能向善,加强技术风险管控,并在相互尊重、平等互利的原则基础上,鼓励各方协同共治,增强发展中国家在人工智能全球治理中的代表性和发言权,不断弥合智能鸿沟和治理能力差距。
中方认为,在世界和平与发展面临多元挑战的背景下,各国应秉持共同、综合、合作、可持续的安全观,坚持发展和安全并重的原则,通过对话与合作凝聚共识,构建开放、公正、有效的治理机制,共同促进全球人工智能健康有序安全发展。
中方表示,愿与各方一道就人工智能安全治理加强沟通交流,为推动形成普遍参与的国际机制和具有广泛共识的治理框架积极贡献智慧,切实落实全球发展倡议、全球安全倡议和全球文明倡议,促进人工智能技术更好造福于人类,共同构建人类命运共同体。
路透社称,会议期间,美国特斯拉、SpaceX和推特公司老板马斯克告诉记者,“我不知道公平规则是什么,但在监督之前必须先有洞察力”,并补充说,“第三方裁判”可以用来在风险出现时发出警报。
谷歌DeepMind公司联合创始人苏莱曼(Mustafa Suleyman)认为,目前的人工智能前沿模型不会造成任何“重大灾难性危害”,但同时表示,随着人工智能行业训练越来越大的模型,提前规划是有意义的。
峰会主办方、英国科学、创新和技术大臣米歇尔·多尼兰表示,能让这么多AI领域的关键人物聚在一起是一项成就,并宣布未来将分别在韩国和法国举行两次人工智能安全峰会。她说:“现在各国首次同意,我们需要独立且共同关注前沿人工智能的风险。”
美国商务部长雷蒙多,英国科学、创新和技术大臣多尼兰,中国科技部副部长吴朝晖(从左至右)出席峰会,图自路透社(下同)
马斯克等科技巨头出席峰会
自去年11月底面世至今,ChatGPT便不断引起争议。作为AlphaGo之后又一个基于人工智能技术的现象级应用,ChatGPT颠覆了公众对聊天机器人的认知,也再次唤醒了人类对人工智能的担忧。
今年3月,国际AI领域非营利组织“未来生命研究所”公开倡议,呼吁所有人工智能实验室立即暂停训练比GPT-4更强大的AI系统至少6个月。5月,“人工智能安全中心”发布超350名专家学者联署的公开信,称“人工智能或导致人类灭绝”,呼吁国际社会认真对待人工智能带来的一系列重要且紧迫的风险。
路透社称,就像科技公司争夺AI领域的主导地位一样,各国政府也争相在监管方面有做作为。
近3个月来,外媒反复炒作英国“执意”邀请中国出席AI峰会,引发其国内鹰派政客和部分七国集团(G7)国家不满的消息。英国首相苏纳克10月26日重申,邀请中国这一AI强国参会的做法“绝对正确”。
据彭博社日前报道,世界知识产权组织(WIPO)的跟踪数据显示,在人工智能(AI)专利方面,中国正日益扩大对美国的领先优势。仅2022年一年,中国AI专利的申请量为29853项,几乎要达到美国的两倍,占过去一年全球AI专利申请总量的40%以上。
“这凸显了中国在塑造和影响一项可能对世界最富裕经济体产生广泛影响的技术方面的决心。”彭博社在报道中称,在近几年美国阻挠中国获得先进技术的背景下,中国政府推动加快基础科学研究。并非所有专利申请都能带来实际发明,但华为等中国科技企业已经在网络、超算和图像识别等领域领导了创新。
2012年到2022年,中美AI相关专利申请数量对比。彭博社制图