【编者按：9月5日，为期四天的2024 Inclusion·外滩大会在上海黄浦世博园区正式开幕。今年大会主题延续“科技·创造可持续未来”，致力于构建一个促进国际交流、科技与人文融合的对话平台，助力上海打造具有全球影响力的国际金融中心和科技创新中心。在当天《以善治促“善智”，让AI更负责任》的见解论坛上，曾毅教授发表了《人工智能发展与安全：方向、挑战与前沿》的精彩演讲。引发了观众的共鸣和广泛兴趣。本文根据其对话及采访整理，未经本人审定】
在数字社会，技术的作用之一是收集全球信息，使得信息变得可被访问、可被利用，但这一过程仍然是由人来实现的。人和人之间的差异体现在对数字访问以及基础设施之间能力的差异，产生事实上的“数字鸿沟”；进入人工智能（AI）时代，数据与人类智慧的接口、途径大为缩短，海量数据和信息的过滤、分析、处理更加快捷，有条件的人可在数秒种之内收集成千上万个文档并回答问题，虽然答案还存在很多的不确定性，但这种信息和知识获取和处理的便捷性使得“数字鸿沟”和“智能鸿沟”之间产生更大的代差，且进一步扩大并已经产生了公平性的差异。
技术会加剧还是缓解社会不平等？
技术的发展，特别是在人工智能领域，既有可能加剧社会不平等，也有可能缓解这种不平等，具体效果取决于如何应对技术带来的挑战。
在曾毅看来，如果技术发展只关注科学突破而忽视了其对社会的潜在负面影响，特别是不考虑到如何缓解这些影响，那么技术进步可能会加剧社会不平等。如果在开发和应用技术时积极考虑并解决技术可能带来的负面影响，那么技术就有可能被用来弥合数字鸿沟，促进社会公平。
技术对社会不平等的影响可能会跨越多代人，因此，人们在享受技术带来的便利的同时，也需要考虑其对后代的潜在影响，并采取措施以确保技术发展不会加剧社会不平等。曾毅指出，“智能鸿沟”是一个社会和技术交织的问题，需要多方面的努力来解决。这不仅仅是技术研究者和开发者的责任，也是政策制定者、教育者和整个社会需要共同面对的挑战。
理性认识人工智能及其价值观
人工智能是一种信息处理工具，它通过学习和模仿人类行为来执行任务；人工智能解决问题的方式、机制跟人有着很大的差异，一些时候它能帮助人类解决问题，但有时候它会以一种完全不可接受的方式、或者完全没有能够想象到的方式去犯错误。
目前，人工智能是基于数据驱动的模型，通过数学优化器从数据中学习并生成期望的输出。然而，真正的人工智能应该能够模拟人类智能的各个方面，包括计算机制、内部机理和行为表现，并且能够以人类可理解的方式进行交流。曾毅表示，人工智能的核心在于数据和算法，这两个要素可能产生偏见，因为它们来源于社会数据，这些数据记录了人类行为，可能包含人类的偏见。
人工智能本身不具备道德判断能力，它的行为和输出是由其训练数据和算法决定的。在这种背景下，可以说人工智能是中立的，它既可以为善也可以为恶，还可能会无意中复制和放大人类的偏见和错误。这取决于它的数据和算法如何被设计和使用。
生成式人工智能是AI的一个分支，它使用“Next Token Prediction”技术，通过分析序列数据的统计显著性来预测下一个最可能的输出。这种技术在推荐系统等领域有广泛应用。
人工智能是否能够获得意识？这取决于其发展方式。如果使用大规模数据进行训练，它可能会表现出看似有意识的行为。但由于计算机和人类的工作机制不同，意识的本质难以界定。只有当人工智能能够基于自身经验理解他人行为时，它才能产生认知共情和情感共情，从而产生道德和利他行为。
“人工智能的主要挑战在于如何确保其输出符合人类的伦理和道德标准”。曾毅表示，人工智能存在如下几方面的问题：一是缺乏真正的理解和判断能力，它不能像人类那样明辨善恶；二是可能习得并放大人类的偏见；三是在面对复杂或未预见的情况时，可能无法做出符合伦理的决策。此外，随着AI技术的发展，它可能会学习到人类的欺骗策略，这增加了对人工智能行为控制的难度。
为了更好地驾驭人工智能，人们需要确保其设计和训练过程遵循伦理原则，减少偏见的产生。同时也需要对人工智能的决策过程进行监督和评估，确保其在各种情况下都能做出符合人类价值观的决策。而随着人工智能技术的进步，人们也需要不断更新和完善对人工智能的监管和指导，以应对可能出现的新挑战。
大量工作正在被AI取代，未来AI会不会来抢工作？
《论语》中有一句话叫做“君子不器”，器，就是器物，有好用的，不好用的，“君子不器”就是说人一生要成为君子，不要去做一个器物。
人工智能是什么？曾毅指出，人工智能其实是一个工具，好听一点就是智能信息处理的工具，难听一点就是总是欺骗人、让人觉得它是智能的信息处理工具。
一个人被人工智能替代，也就是说他被一个工具所替代，这意味着本身他把自己当作了“器”。如果人工智能暂时替代了人的那份工作——无论是当初他如何热爱的工作，实际上也是向他提供了一个很好的机会，倒逼反思如何适应新的技术挑战，如何在新形势下追求内心自我、追求人生价值。人们经常讲人工智能“向善”，善是追求本源，人的一生其实也是在不断的追寻自我本质、完善自我的一生。
《The Future of Work》一书的作者在讨论中表示，未来很多社会服务性的工作需要人类情感交流，以前不会被认为是工作的，未来都会被认为是工作，比如机器人喂食老人、看护小孩。不过，由于人类情感的互动基础就是演化，不论是老人还是小孩，都没有动机去跟机器人交流和互动。让一个器具去做社会性需要情感交流甚至是对于家庭的服务，这不是人工智能应当去探索的。
“但是，当越来越多的工作被人工智能所替代的时候，不可替代的部分就会变得越来越清晰。”曾毅节晒说，ChatGPT问世之初，很多新闻工作者都担心自己的工作会被替代，一年后的今天，这一现象并没有明显的发生。人工智能的进展证明，当互联网上出现更大规模的人工智能书写的数据和知识，而这些数据和知识又被喂到人工智能去训练的时候，人工智能的能力会变的越来越弱。人工智能代替部分的工作，就像蒸汽机、计算机时代的出现，会提供一些加持和期待，那种期待带来短期的焦虑，让更多的人回归本位。
人工智能到底是人类的帮手还是对手？
人工智能到底是帮手还是对手？
在曾毅看来，这不是一个“yes”或“no”的问题。以无人车为例，“萝卜快跑”话题一度十分热闹，也遭到很多出租车司机反对。有人说出租车司机要跟上技术变化，认为其应该找到更有意义的工作。但曾毅完全否定了这个观点。在他看来，高铁、飞机绝大多数情况下都是采取自动驾驶方式，它们的安全性最高，相比之下，汽车是这三项交通工具中最危险的交通工具，即使是人类驾驶。
更安全的飞机与更安全的火车不去做完全无人化的替代，反而在道路上行驶的汽车就一定把司机替换下来？
“这个逻辑是完全不成立的。”曾毅说，“飞机和火车的风险低，但可控性比较差，极端情况下人是最后的护航，汽车也是一样的道理，不能说汽车上只有一两名乘员，就没有多大的代价。这是个伦理难题，不能根据年龄、数量、种族等做决定。我认为无人车技术发展过程中有点听之任之，或者过于追求短期的利益。不能因为马斯克大力发展无人车，中国也要大力发展无人车；要通过负责任的研发和使用人工智能，将人工智能塑造为人们的帮手。”
他承认无人系统很有价值，特别是在一些非常高危的场景，比如井下煤矿作业，作为人形机器人就能发挥很好的替代工作。
曾毅坚信，人工智能不会成为人类的对手，但如果不负责任地研发和使用、滥用或恶用，那人类连跟人工智能竞争的机会都没有，甚至不知道它将以什么样的方式毁灭人类。
“萝卜快跑”热度快速降低，正是因为顶层监管。毕竟，社会的方方面面都没有准备好。所以技术和社会的解决方案要加持在人工智能发展的过程中，绝对不能够依靠技术去解决潜在风险，不能把希望仅仅寄托于技术研究者。
如何看待攻防挑战赛以及开源的意义？
外滩大会期间举办的AI创新赛•全球Deepfake攻防挑战赛，是人气最旺的活动之一。主办方用人工智能技术对抗Deepfake的TOP选手代表鉴别图像和视频的真伪，引发阵阵欢呼。曾毅表示，这种攻，是指突破技术能够达到的极致，但是这种突破，比如合成，合成很多的假图片以假乱真，不仅肉眼无法分辨，甚至连机器也分辨不出来。但当获胜方是攻而不是防的时候，深度造假这个问题是无解的。毕竟，下一个能够被研发出来防御措施，是非常不确定的。因此，这实际上也是一个不负责的行为。
曾毅指出，很多信息安全领域的专家表达出担忧，都希望能把防护的技术也同时做好。事实上，已经有这样的企业——他们攻破了所有的手机的人脸识方法，同时封死了互联网上所有用户的银行帐户。因此，研发出的利器越多，带来的伤害会更大。
在曾毅看来，造一个坚硬无比的矛，再造一个非常优秀的盾，从商业角度意味着可以同时销售两类产品，但对于社会而言，潜在的风险巨大，因为对应的监管措施非常薄弱。
他同时指出，如果一项技术有明确的潜在风险，但不能先解决自己能够解决的问题，反而带来新的问题，那么，解决方案作为一种开源的工具是不合适的。但他对开源本身这件事情表示非常支持，开源确实能够推进人工智能的发展和技术的进步——只要开源是为了促进发展，建设负责任的生态，那就要支持。
好在相较2018年甚至更早时候，如今绝大多数人工智能企业都意识到了自律自治与伦理安全的重要性与相关风险，采取的措施也使得人工智能的发展更合乎伦理、更具有道德。
“不是存在商业机遇的地方就是人工智能发展应当的走向。要让人工智能成为人类的帮手，就必须负责任去塑造人工智能技术，而不要随人工智能的野蛮的生长，误用、滥用和恶用，给世界带来不可预制的一环。”曾毅呼吁：让负责任的人工智能变成所有人工智能从业者内在的基因，这对创新者来说是一个必选之题。
嘉宾简介：
曾毅教授，联合国人工智能高层顾问机构专家、北京人工智能安全与治理实验室主任、中国科学院自动化研究所研究员，蚂蚁科技伦理顾问委员会专家，是国内技术伦理领域引领的前沿专家，在国际上也很强的影响力。
Inclusion·外滩大会
Inclusion·外滩大会指导单位为上海市人民政府，由支付宝、蚂蚁集团主办，上海市地方金融监督管理局、黄浦区人民政府特别支持。自创办以来，致力于推动科技与金融相互赋能，已成为各方瞩目的交流对话平台和产业促进平台。今年Inclusion·外滩大会设置了丰富的议程，为专家学者、企业领袖、创新创业者充分利用大会搭建的平台，交流创新经验，共享发展机遇，并首次设立创新者舞台和AI创新赛，并有多个重磅的技术产品首发亮相，多维度展现金融与科技融合的产业前景，为上海国际金融中心和科创中心建设贡献智慧和力量。
- 海南企业数字化转型专题思享会暨2024动码印章产品发布会圆满结束 – 2024年9月14日
- Inclusion·外滩大会｜中科院自动化所曾毅：人工智能是“帮手”还是“对手”？ – 2024年9月10日
- 值得买科技CTO王云峰出席2024腾讯全球数字生态大会：加速云与AI深度融合，为高质量AI生态注入动能 – 2024年9月9日