古特雷斯在讲话中强调,人工智能正以惊人速度改变全球社会、经济和信息空间。他指出,关键问题不在于人工智能是否会影响和平与安全,而在于人类将如何塑造这种影响。
他强调,负责任地运用人工智能可以提升预防和保护能力。然而,如果缺乏防护机制,人工智能可能被武器化,近期冲突已成为人工智能驱动精准打击和自主作战的试验场。网络攻击、虚假信息和能源资源竞争等问题正加剧全球紧张局势。
古特雷斯在发言中提出四项优先事项:确保人类对武力使用的控制权;建立协调一致的全球监管框架;保护信息完整性;以及弥合人工智能能力差距。
古特雷斯指出,生死攸关的决策必须始终掌握在人类手中。他呼吁禁止不受人类控制的致命自主武器系统,并确保军事人工智能的使用完全符合国际法和《联合国宪章》。
他表示,从设计、部署到退役,人工智能系统必须符合法律要求并建立强有力的人类问责机制。他强调,透明度和国际合作是降低人工智能风险的关键,尤其在冲突地区。
古特雷斯呼吁各国政府、媒体、平台和民间社会共同应对人工智能驱动的虚假信息和深度伪造技术,防止其破坏和平进程、人道主义准入以及选举。
他表示,人工智能能够加速可持续发展和促进和平,但各国必须有平等机会参与塑造未来。他介绍了联合国创新自愿融资方案,以支持发展中国家提升人工智能能力,并呼吁国际社会提供必要资源。
古特雷斯指出,上月联合国大会成立了人工智能独立国际科学小组,并启动全球AI治理对话机制,旨在连接科学、政策与实践,为所有国家提供参与平台,减少政策碎片化。他呼吁各会员国提名多元性专家,确保科学小组具备专业性、独立性和区域平衡。
古特雷斯强调:“塑造人工智能未来的窗口正在关闭——为和平、为正义、为人类。我们必须立即行动。”