以大模型为代表的生成式人工智能，掀起全球人工智能技术发展新浪潮。然而，这也引发公众担忧：人工智能生成的图片、影像、声音会不会产生安全问题?人工智能生成内容的法律边界在哪里……关于人工智能领域的风险控制很可能会成为未来一段时间内各国规范与立法的重点。近日，联合国大会通过首个关于人工智能的全球决议《抓住安全、可靠和值得信赖的人工智能系统带来的机遇，促进可持续发展》。“决议”部分内容如下：

大会认识到，安全、可靠和值得信赖的人工智能系统——就本决议而言是指非军事领域的人工智能系统，其生命周期包括前期设计、开发、评价、测试、部署、使用、销售、采购、运行和淘汰等阶段——必须以人为本、可靠、可解释、符合道德、具有包容性，充分尊重、促进和保护人权和国际法，保护隐私、面向可持续发展和负责任，这些系统可以加速和推动在实现所有17项可持续发展目标方面取得进展以及通过平衡和统筹兼顾的方式从经济、社会和环境这三个方面实现可持续发展;推动数字化转型;促进和平;克服国家之间和国家内部的数字鸿沟;促进和保护人人享有人权和基本自由，同时坚持以人为本。

又认识到，不当或恶意地设计、开发、部署和使用人工智能系统——例如在没有适当保障措施或不符合国际法的情况下——构成风险，可能阻碍在实现《2030 年可持续发展议程》及其可持续发展目标方面取得进展，不利于从经济、社会和环境这三个方面实现可持续发展;扩大国家之间和国家内部的数字鸿沟;强化结构性不平等和偏见;导致歧视;有损于信息的完整性和获取信息的途径;削弱对人权和基本自由的保护、促进和享有，包括个人隐私不受非法或任意干涉的权利;增加发生事故的潜在风险和来自恶意行为者的多重威胁。

还认识到人工智能系统的设计、开发、部署和使用速度加快，技术变革日新月异，对加快实现可持续发展目标具有潜在影响，因此强调指出迫切需要就安全、可靠和值得信赖的人工智能系统达成全球共识;推动开展包容性国际合作，制定和使用有效、具有国际互操作性的保障措施、做法和标准，以促进创新，防止对安全、可靠和值得信赖的人工智能系统的治理不成体系;认识到目前存在人工智能和其他数字方面的鸿沟，国家之间和国家内部的技术发展水平参差不齐，发展中国家在跟上这一迅速加速的步伐方面面临独特挑战，这对可持续发展造成障碍，需要消除发达国家与发展中国家之间在条件、可能性和能力方面的现有差距，因此，又强调指出迫切需要在能力建设及技术和财政方面加强对发展中国家的援助，以消除国家之间和国家内部的数字鸿沟，支持发展中国家有效、公平和有意义地参与人工智能系统治理方面的国际进程和论坛并拥有代表权。

又认识到，人工智能系统治理是一个不断发展变化的领域，需要随着技术和我们对技术的认识不断提高，继续讨论可能采取的适当治理办法，这些办法必须以国际法为基础，具有互操作性、灵活性、适应性、包容性，能够满足发达国家和发展中国家的不同需求和能力，并使所有人受益。

1.决心弥合国家之间和国家内部的人工智能鸿沟和其他数字鸿沟。

2.决心促进安全、可靠和值得信赖的人工智能系统，以在全面实现《2030 年可持续发展议程》 方面加快取得进展，进一步弥合国家之间和国家内部的人工智能鸿沟和其他数字鸿沟;强调指出需要制定安全、可靠和值得信赖的人工智能系统标准，以促进而不是阻碍数字化转型和公平获取这些系统所带来的惠益，从而实现所有17项可持续发展目标和从经济、社会和环境这三个方面实现可持续发展，并应对其他共同的全球挑战特别是发展中国家面临的挑战。

3.鼓励会员国并邀请来自所有区域和国家的多利益攸关方，包括私营部门、国际和区域组织、民间社会、媒体、学术界和研究机构、技术界及个人，在各自角色和职责范围内，制定和支持与安全、可靠和值得信赖的人工智能系统有关的监管和治理办法和框架，在各国创造一个有利的生态系统，包括按照共同商定条件促进创新、创业和知识与技术传播，同时认识到各国政府和多利益攸关方之间的有效伙伴关系和合作对于制定此类办法和框架是必要的。

4.促请会员国并邀请其他利益攸关方采取行动，与发展中国家合作并向其提供援助，以实现包容和公平地获得数字化转型以及安全、可靠和值得信赖的人工智能系统所带来的惠益，包括为此。

(a) 扩大所有国家特别是发展中国家对数字化转型的参与，以利用安全、可靠和值得信赖的人工智能系统所带来的惠益并有效参与其开发、部署和使用，包括为此开展与人工智能系统有关的能力建设，同时认识到促进知识共享活动和按照共同商定条件转让技术是能力建设的一个重要方面，并强调指出需要消除人工智能鸿沟和其他数字鸿沟，提高数字素养;

(b) 通过强化伙伴关系，增强数字基础设施的连通性和技术创新的获取，帮助发展中国家在人工智能系统的整个生命周期内有效参与，加快人工智能系统对社会的包容性和积极贡献，包括全面实现《2030 年议程》及其可持续发展目标，同时确保世界各地的人工智能系统在其整个生命周期内都是安全、可靠和值得信赖的;

(c) 增强发展中国家、特别是最不发达国家的能力，以应对主要的结构性障碍，消除在获得新技术和新兴技术以及人工智能创所带来的惠益方面存在的障碍，实现所有17项可持续发展目标，包括以加强伙伴关系等方式扩大使用科学资源、可负担的技术、研究和开发;

(d) 力求提供更多资金，促进在数字技术和安全、可靠和值得信赖的人工智能系统方面开展与可持续发展目标相关的研究和创新，并在所有区域和国家开展能力建设，以促进这项研究并从中受益;

(e) 营造基于创新的国际环境，以提高发展中国家发展技术专长和实力的能力，利用数据和计算资源以及国家监管和治理方法、框架和采购能力，并在各级建立包容有利的环境，提出基于安全、可靠和值得信赖的人工智能系统的解决方案;

(f) 紧急动用各种执行手段，例如按照共同商定条件进行技术转让，开展能力建设以消除人工智能鸿沟和其他数字鸿沟，根据发展中国家的国家需求、政策和优先事项，向发展中国家提供与人工智能系统有关的技术援助和融资;

(g) 促进获取安全、可靠和值得信赖的人工智能系统以及这些系统的设计、开发、部署和使用，以期从经济、社会和环境这三个方面实现可持续发展;

5.强调必须在人工智能系统的整个生命周期内尊重、保护和增进人权和基本自由，促请所有会员国并在适用情况下促请其他利益攸关方不要使用或停止使用无法按照国际人权法运作或对享受人权构成过度风险的人工智能系统，特别是对于那些处于弱势的人而言，并重申人们在线下享有的权利也必须在线上得到保护，包括在人工智能系统的整个生命周期内。

6.鼓励所有会员国酌情根据本国优先事项和具体情况以及在实施本国独特的监管和治理办法和框架时，并在适用情况下鼓励其他利益攸关方，以包容和公平的方式促进安全、可靠和值得信赖的人工智能系统，造福所有人，并为这些系统营造有利环境，以应对世界上最大的挑战，包括从经济、社会和环境这三个方面实现可持续发展，同时具体考虑到发展中国家以及不让任何一个人掉队，方法是：

(a) 根据各自的国家政策和优先事项以及国际法规定的义务，并酌情根据国家以下各级政策和优先事项和义务，促进制定和实施国内监管和治理办法和框架，以支持负责任和包容各方的人工智能创新和投资，促进可持续发展，同时推广安全、可靠和值得信赖的人工智能系统;

(b) 鼓励采取有效措施，促进创新，以便在人工智能系统的设计和开发期间以及在部署和使用之前，对脆弱性和风险采取具有国际互操作性的识别、分 类、评估、测试、预防和缓解措施;

(c) 鼓励纳入反馈机制，以使最终用户和第三方可在开发、测试和部署人工智能系统后，以循证方式发现和报告技术漏洞，并根据情况发现和报告滥用人工智能系统的行为和人工智能事件，以解决这些问题;

(d) 提高公众对人工智能系统的核心功能、能力、局限性和适当民用领域的认识和了解;

(e) 在人工智能系统的整个生命周期内，促进建立、实施和披露风险监测和管理机制、确保数据安全机制(包括个人数据保护和隐私政策)以及适当的影响评估;

(f) 加强对制定和实施有效保障措施的投资，包括实体安全、人工智能系统安全以及人工智能系统整个生命周期内的风险管理;

(g) 鼓励开发和部署有效、可获取、适应性强、具有国际互操作性的技术工具、标准或做法，包括可靠的内容认证和来源识别机制——例如在技术上可行和适当的情况下使用水印或标签，以使用户能够识别信息操纵行为，区分或确定真实数字内容和由人工智能生成或操纵数字内容——并提高对媒体和信息的认知度;

(h) 促进制定和实施有效、具有国际互操作性的框架、做法和标准，用于培训和测试人工智能系统，以加强决策，帮助保护个人免受一切形式的歧视、 偏见、滥用或其他伤害，并避免在人工智能系统的整个生命周期内强化或固化具有歧视或偏见的应用程序和结果，例如，为此分析和减轻数据集中存在的偏见，并以其他方式打击算法方面的歧视和偏见，同时又不会无意或过度地影响其他用户和受益方的正向发展、获取和使用;

(i) 在适当和相关的情况下，鼓励实施适当的保障措施，以尊重知识产权，包括受版权保护的内容，同时促进创新;

(j) 在测试和评估系统时保障隐私和保护个人数据，并遵守相关国际、国家和国家以下各级法律框架中规定的透明度和报告要求，包括关于在人工智能系统整个生命周期内使用个人数据方面的要求;

(k) 对于作出或支持作出影响最终用户的决定的人工智能系统，在其整个生命周期内促进透明度、可预测性、可靠性和可理解性，包括提供通知和解释;促进人类监督，例如，通过审查自动化决定和相关流程，或在适当和相关情况下，为那些受到人工智能系统自动化决策不利影响的人提供人类决策替代方案或进行有效补救和问责;

(l) 在人工智能系统的整个生命周期内，加强对制定和实施有效保障措施的投资，包括风险和影响评估，以保护人权和基本自由的行使，并减轻对充分和有效享受人权和基本自由的潜在影响;

(m) 推广可以促进、保护和保全语言和文化多样性的人工智能系统，在其培训数据中以及在人工智能系统的整个生命周期内考虑到使用多种语言，特别在大语言模型方面;

(n) 按照共同商定条件，与在人工智能系统的整个生命周期内发挥作用的各个实体加强信息共享，以确定、理解人工智能系统的最佳科学和循证做法、政策和方法并利用这些做法、政策和方法采取行动，实现效益最大化，同时在人工智能系统(包括先进人工智能系统)的整个生命周期内减轻潜在风险;

(o) 鼓励开展研究和国际合作，以了解、平衡和解决与人工智能系统在弥合数字鸿沟和实现所有17项可持续发展目标方面所发挥作用有关的潜在利益和风险，包括扩大开源人工智能系统等数字解决方案的作用;

(p) 促请会员国采取具体措施，消除性别数字鸿沟，确保特别关注利用、可负担性、数字素养、隐私和在线安全，加强数字技术(包括人工智能系统)的使用，并将残疾、性别和种族平等视角纳入决策和决策指导框架的主流;

(q) 鼓励开展研究和国际合作，以制定措施确定和评估人工智能系统的部署对劳动力市场的影响，支持减轻对劳动力的潜在负面影响，特别是对发展中国家，尤其是最不发达国家劳动力的潜在负面影响，以及促进旨在开展数字培训和能力建设的方案、支持创新并让更多的人享受人工智能系统带来的好处;

7.又认识到数据是人工智能系统开发和运行的根本;强调公平、包容、负责和有效的数据治理，数据生成、获取和基础设施的改善，以及数字公共产品的使用，对于利用安全、可靠和值得信赖的人工智能系统的潜力促进可持续发展至关重要，并敦促会员国分享数据治理最佳做法，促进数据管理方面的国际合作、协作和援助，以在可行的情况下提高各种方法的一致性和互操作性，从而推动安全、可靠和可信的人工智能系统实现可信的跨境数据流动，使其发展更加包容、公平、有效和惠及所有人。

8.确认必须继续讨论人工智能治理领域的发展动态，以使国际做法跟上人工智能系统及其用途的演进;并鼓励国际社会继续努力促进包容性研究、摸底和分析，以了解人工智能系统和快速技术变革在现有技术、新技术和新兴技术的开发方面以及对加速实现所有17项可持续发展目标的潜在影响和各种应用，使所有各方受益，并且为人工智能设计方、开发方、评估方、部署方、用户和其他利益攸关方制定、促进和实施有效、具有国际互操作性的保障措施、做法、标准和工具提供信息，以使人工智能系统做到安全、可靠和值得信赖;强调指出各国政府、私营部门、民间社会、国际和区域组织、学术界和研究机构及技 术界和所有其他利益攸关方需要继续酌情共同努力;确认所有社区特别是发展中国家的社区需要以更加一致、有效、协调和包容的方式，参与安全、可靠 和值得信赖的人工智能系统的包容性治理。

9.鼓励私营部门遵守相关国际和国内法律，并按照《联合国工商企业与 人权指导原则：实施联合国“保护、尊重和补救”框架》行事;确认必须以更加包容和公平的方式获得安全、可靠和值得信赖的人工智能系统带来的惠益;认识到需要加强合作，包括公共部门、私营部门、民间社会、学术界和研究机构以及技术界之间和内部的合作，以在安全、可靠和值得信赖的人工智能的整个生命周期内提供和促进公平、开放、包容和没有歧视的营商环境、经济和商业活动、竞争性生态系统和市场;鼓励会员国制定政策和法规，以促进在安全、可靠和值得信赖的人工智能系统和相关技术方面开展竞争，包括支持和为小企业、企业家和技术人才创造新的机会，并通过关键投资特别是对发展中国家的关键投资促进在人工智能市场开展公平竞争。

10.促请联合国系统各专门机构、基金、方案、其他实体、机构和办事处以及相关组织在各自任务和资源范围内，通过适当的机构间机制，继续评估和加强对策，以协作、协调和包容的方式利用人工智能系统带来的机遇并应对这方面的挑战，包括就潜在影响和应用开展研究、摸底和分析，使所有各方受益;报告在解决问题方面取得的进展和遇到的挑战;与发展中国家合作并协助它们进行能力建设，获取和分享安全、可靠和值得信赖的人工智能系统带来的惠益，以实现所有17项可持续发展目标和从经济、社会和环境这三个方面实现可持续发展;强调指出需要消除国家之间和国家内部的人工智能鸿沟和其他数字鸿沟。

11.回顾其题为“未来峰会的方式和范围”的2022年9月8日第76/307号决议和2023年9月1日第77/568号决定，并在这方面期待制定一项全球数字契约。

12.期待大会在2025年全面审查自信息社会世界峰会以来取得的进展。

13.肯定联合国系统根据其任务规定，通过促进包容各方的国际合作和促进发展中国家在审议中的融入、参与和代表性等方式，在根据国际法，特别是 《联合国宪章》《世界人权宣言》和《2030 年可持续发展议程》就安全、可靠和值得信赖的人工智能系统达成全球共识方面作出独特贡献。