人工智能是现代信息技术与社会经济系统深层次地融合的产物，正在以惊人的速度改变我们的生活方式、生产方式和治理方式。从ChatGPT等生成式人工智能到工业机器人、无人驾驶技术，人工智能的创新成果不仅推动了技术突破，也对全球经济稳步的增长产生了深远影响。据预测，未来10年生成式AI将助推全球的国内生产总值增长7%，约合近7万亿美元。这一技术浪潮正在改变社会结构、经济形态及人类未来发展趋势。然而，与这一变革相伴的，还有伦理挑战和社会风险。习主席向2023年世界互联网大会乌镇峰会开幕式发表视频致辞时指出：“妥善应对科技发展带来的规则冲突、社会风险、伦理挑战。中方愿同各方携手落实《全球AI治理倡议》，促进人工智能安全发展。”深刻理解人工智能技术发展对行业的赋能以及对经济社会的影响，并精准把握人工智能伦理与治理等方面的问题，对于加快建成科技强国、以新质生产力推动高水平质量的发展、推进中国式现代化都具备极其重大意义。

  人工智能技术大致可分为感知智能、认知智能和创造智能三个层次。感知智能专注于模仿人类的视觉、听觉等感官能力，大范围的应用于人脸识别、语音助手等领域。认知智能更进一步，通过自然语言处理和机器学习技术实现数据分析与推理决策。而创造智能则具有模拟和超越人类创造力的潜力，生成式人工智能就属于创造智能。这三个层次技术的协调发展，为AI在多个领域的落地奠定了基础。

  人工智能技术根据产业链格局，还可分为基础层、技术层、应用层三类。基础层是人工智能的技术基础，提供基本的数据、算力、算法和硬件，既包括芯片、传感器等硬件，也包括云计算和大数据平台等软件。技术层是指具有不同功能的应用技术，是构成人工智能特定功能的基础层技术的集合。例如计算机视觉、语音识别、自然语言处理、大语言模型等。应用层是在特定应用领域或场景中利用人工智能技术开发的各类产品和服务、提供的商业化人工智能解决方案。比如机器人、无人机、自动驾驶、个性化推送服务、智慧教育、智慧医疗、智慧城市服务、智慧金融等。处于这三个层次所属的产业链上的人工智能企业都很重要，没有高低之分。随着人工智能技术快速进步，全球人工智能产业链逐步完善。

  我国人工智能的研发与应用呈现出加速发展态势。目前普遍认为，中国在人工智能基础层的技术研发能力还不是最领先的，但应用层的技术开发在世界上占有较大优势。从基础硬件（如高性能计算芯片）到核心算法，再到智能终端产品（如机器人、自动驾驶汽车等），每个环节都在快速发展。基于5G、云计算、大数据等技术的支持，人工智能正在成为全球科技竞争的核心领域之一。近年来，我国大力推动人工智能的研究和产业化应用，取得了长足进展，特别是在算法优化和大规模数据处理方面处于全球领先地位。我国拥有世界领先的人工智能企业，这些企业在自动驾驶、医疗人工智能等领域开展了多项前沿试验。

  我国庞大的制造业体量孕育出全球规模最大的工业机器人消费市场。国际机器人联合会发布的《2024世界机器人报告》显示，2023年全球工业机器人总保有量约428.2万台，较2022年增长10%，服务机器人市场持续增长。数据统计网站Statista的最新数据预计，2024年机器人市场营收将达到461.1亿美元。服务机器人占据市场主导地位，预计2024年市场规模将达到362亿美元，2029年将达到730.1亿美元。我国不仅是全球最大的机器人市场，同时也在不断推进机器人产业链升级，在全球机器人产业中有望占据领先地位。在工业领域，我国的工业机器人市场已经相当成熟。机器人技术应用已经成为提升生产效率的重要工具，超过50%的机器人应用于汽车制造领域。机器人在替代人工劳动、提高生产效率方面发挥了巨大作用，尤其是在高端制造业中，其自动化程度显著提高了生产力。此外，特种机器人、服务机器人等新型机器人也在全球范围内取得突破。随着无接触配送、情感陪护等服务机器人需求暴增，非工业领域机器人加速普及。

  人工智能提供了经济发展和社会进步的强大动力，赋能各行各业更加高速地运转，并正在迅速改变产业结构。

  促进产业升级与结构调整。人工智能将推动产业快速升级并促进产业结构深刻调整。一方面，它促进了高科技产业、服务业和新兴行业快速发展，例如人工智能、数据科学、量子计算等行业。另一方面，传统制造业、低技能服务业等劳动密集型行业面临着人工智能的挑战，市场份额逐渐减少。人工智能推动的产业结构转型，不仅改变了全球生产和消费的格局，也推动了新型经济形态的形成。人工智能技术促使全球经济更加依赖智能化服务、知识密集型产业和数字化平台，进一步促进了全球经济的高端化、智能化和信息化。

  引发工业与服务业变革。工业领域的自动化升级是人工智能最显著的成果之一。通过部署人工智能驱动的生产线和智能检测系统，制造业的效率和产品质量得到了显著提升。此外，人工智能还在物流、零售、医疗等服务领域发挥着关键作用。例如，物流公司采用无人机配送、智能仓储系统，大幅降低了运营成本。服务机器人也在酒店管理、健康护理、客户服务等方面崭露头角。这种广泛的行业赋能，不仅提升了服务质量，还催生了诸多新型就业机会。

  人工智能赋能智慧城市建设。建设智慧城市离不开人工智能技术支持。在交通管理领域，智能信号系统和无人驾驶技术提高了城市交通的流动性和安全性。在城市治理中，人工智能大数据分析帮助政府更精准地预测和应对社会风险。此外，智能公共服务平台为居民提供了便利，例如在线医疗预约、远程诊疗和远程教育等。

  促进能源与信息技术创新。在能源领域，人工智能为核聚变和智能电网的发展提供了技术支撑。例如，国外有研究团队训练了一种深度强化学习算法并成功控制了核聚变反应堆内过热的等离子体，而量子计算与人工智能的结合则被认为是下一次信息革命的驱动力。这些技术突破可能彻底改变能源供给和信息处理的未来格局。

  经济全球化形态将被重新定义。在全球化背景下，人工智能技术导致了价值在资本和劳动之间的重新分配。分配领域出现4个方面的新变化：资本与劳动要素报酬分配的两极化、高技能劳动者与普通劳工之间收入差距的扩大化、大型智能企业和一般企业之间利润收入的两极化以及国际经济体系中心国家与外围国家之间智能鸿沟的深化。人工智能推动了全球产业链的自动化和无人化，带来了新的经济全球化形态技术驱动型全球化。

  人们担心AI在赋能产业发展的同时，人工智能大规模代替人力会产生劳动力市场分化和社会不平等问题，以及随之而来的相关社会结构分化问题。

  导致社会发生分化。人工智能对劳动力市场的影响最为直接。人工智能的迅速普及对传统劳动力市场产生了两大影响：一是重复性强的岗位正被自动化技术取代，二是高技能岗位需求增加。以制造业为例，人工智能控制的自动化生产线减少了对体力劳动的需求，同时增加了对数据分析、编程维护等高级技能人才的需求。这种趋势推动了就业结构调整，也对劳动者的再教育和技能提升提出了迫切需求。未来，低技能岗位的减少、高技能岗位的增加将导致劳动力市场出现明显的结构性调整。低技能工人的收入和就业机会受到压缩，部分人群面临技能过时的问题；而对于高技能人才来说，人工智能技术的普及为他们提供了更多的就业机会和更高的薪酬。在资本市场中，个别人工智能概念股企业市值不断飙升，屡创新高，也反映了财富分配进一步分化的现象。此外，人工智能和数字化技术的普及要求劳动者具备新的技能，而全球教育资源的不均衡使得很多低收入国家和地区的人群无法接受人工智能相关的教育培训。即使在一些发达国家，教育体制内也存在着资源分配不均的问题，贫困地区和贫困家庭的孩子难以接触到高质量的人工智能教育资源，导致社会不平等进一步加深。

  重构社会权力结构和政治生态。人工智能的迅猛发展正深刻改变着社会权力结构与政治生态。一方面，普通民众的社会权力得到了显著提升。以西方国家的选举为例，各方候选人纷纷引入人工智能和社交媒体团队，利用大数据分析选民偏好，精准推送竞选信息。这一做法看似是对民众社会权力的积极迎合与尊重。然而另一方面，基于人工智能的个性化信息推送在提升民众参与度与影响力的同时，也加剧了“信息茧房”效应。选民们被海量的定制化信息包围，逐渐失去了接触多元观点的机会，政治意识形态的分裂与极化现象日益严重。这种“信息茧房”效应不仅限制了民众的政治视野，还严重影响了政治生态的修复与健康发展。政治对话变得愈发尖锐与对立，共识难以达成，政策制定与执行也因此面临诸多挑战。

  促进政府社会治理方式转型。人工智能技术将深刻影响国家与社会的关系。以数据和算法为核心的政府智能治理模式正在逐步取代传统的人工管理方式，社会治理因人工智能技术赋能而更加高效精准。但与此同时，社会也面临着技术滥用、隐私泄露等潜在风险。例如，人工智能在公安领域的应用，提高了打击违法犯罪的效率，但仍需进一步探索如何平衡隐私保护与社会安全。

  推动全球劳动力和人才流动。人工智能对社会结构的改变，不仅影响单个国家的社会结构，也对全球劳动力市场和人才流动产生了深远的影响。在全球化的背景下，技术鸿沟和劳动力市场的不平等将推动跨国劳动力流动，甚至可能加剧国际经济竞争和不平等。因此，人工智能在全球范围的广泛使用，可能加剧不同国家内部及国家之间社会阶层的分化，构建新的技术壁垒。未来需要设计更为均衡的技术推广政策，确保人工智能发展能够造福全社会，减少潜在的不平等和冲突。

  随着人工智能技术的快速发展，如何确保人工智能技术的公正性、透明性和安全性，成为亟待解决的问题。在伦理方面，人工智能系统的决策往往基于训练数据，数据和算法中的偏见可能导致不公平的结果。此外，隐私保护也是一大挑战，人工智能技术可能泄露个人隐私，对个人权益构成威胁。在治理方面，人工智能技术的快速发展与治理体系的构建存在步调不一致的问题，信息不对称和成本不对称也增加了治理难度。全球科技治理体系也面临诸多困难，各国在技术标准、伦理规范等方面存在差异，难以形成统一的治理框架。因此，加强国际合作，共同制定技术标准和政策框架，确保人工智能技术的伦理性和社会接受度，是应对人工智能伦理与治理挑战的关键。

  偏见与歧视。人工智能的应用虽然带来了诸多便利，但其发展过程中的偏见与歧视问题不容忽视。人工智能系统的决策过程往往依赖于大数据，而大数据本身可能存在偏见。人工智能系统如果没有经过严格的审查和人机对齐的过程，可能会在某些情况下加剧社会的不公平。例如，人工智能招聘系统可能会根据历史数据作出性别、年龄、种族等方面的偏见决策，造成对某些群体的歧视。 隐私保护和数据安全。随着人工智能技术的大规模应用，隐私保护和数据安全问题成为人们关注的焦点。人工智能系统需要大量的个人数据作为训练素材，这也使得用户的隐私面临被泄露的风险，特别是在教育、医疗、金融保险等领域。

  全球科技治理困境。人工智能的迅猛发展对全球科技治理体系带来了前所未有的挑战。一方面，技术的快速发展导致治理规则滞后，难以有效应对新兴风险，如数据泄露、隐私侵犯等至今仍没有一个全球通用的规范。另一方面，各国对人工智能技术的认知和立场存在差异，使得难以形成统一的全球治理体系。例如，在无人驾驶、人脸识别等新兴应用上，各国法律体系和监管指导存在差异，难以形成统一标准。此外，人工智能技术的某些风险，如人工智能决策伦理、偏见和不公平等造成的损害可能是间接的、长期的、难以量化的。

  为了应对上述人工智能伦理和治理挑战，各国政府和机构提出发展负责任的人工智能，加强人工智能治理。例如，2018年欧盟提出《人工智能的伦理准则》，联合国教科文组织在2019年发布《人工智能伦理问题建议书》，我国国家新一代人工智能治理专业委员会于2019年发布《新一代人工智能治理原则发展负责任的人工智能》。此外，国际社会也在探索通过多边合作机制，建立跨国界的人工智能治理体系，以确保技术的规范化发展。人工智能的开发者和应用者必须确保数据的公平性，并采取措施降低偏见和风险。同时，政府应当加强对人工智能伦理的监管，确保人工智能技术的负责任应用。因此，建立健全数据保护法律法规和伦理规范是当务之急。各国政府应当加大对数据安全的监管力度，确保在保障个人隐私的前提下应用人工智能技术。

  针对人工智能技术加快速度进行发展的特点，弥补传统治理手段反应迟钝的缺陷，应当以敏捷治理的手段回应人工智能的伦理风险。敏捷治理强调快速响应和持续调整，通过动态的政策工具应对人工智能的潜在风险。世界各国必须加强合作，国际组织应该发挥更大作用，共同制定技术标准和政策框架，确保人工智能技术安全、可靠和负责任发展。习主席向2024世界智能产业博览会致贺信指出：“中国愿同世界各国一道，把握数字化、网络化、智能化发展机遇，深化人工智能发展和治理国际合作，为推动人工智能健康发展、促进世界经济增长、增进各国人民福祉而努力。”

  人工智能不仅是技术创新的代表，更是一种重新定义社会资源分配和治理方式的力量。未来，我们需要加快科技体制创新，加强多方合作以实现技术发展的可持续性，并让所有人能共享人工智能技术发展红利。同时，个人也应通过不断学习新知识和技能，适应变化，抓住机遇。通过技术与治理的协调发展，我们有望迎来一个更加智能、更高效、更加公平、更加包容的新时代。

  （本文是新一代人工智能国家科技重大专项课题“中国人工智能治理评估”〈项目编号：2022ZD0116201〉阶段性成果）

  [1]中央关于进一步全面深化改革 推进中国式现代化的决定[M].北京：人民出版社，2024.

  （作者简介：朱旭峰，清华大学公共管理学院教授、院长，清华大学科技发展与治理研究中心主任）