聚焦人工智能技术前沿与治理 中外专家学者国际论坛建言献策******
中新网北京12月5日电 (记者 孙自法)2021人工智能合作与治理国际论坛“人工智能技术前沿与治理”主论坛，12月5日在清华大学以线上线下结合方式举行，中外人工智能(AI)领域专家学者聚焦人工智能技术前沿与治理这一主题，发表主旨演讲建言献策，并深入研讨交流。
美国国家科学院院士、美国艺术与科学院院士、约翰·贝茨·克拉克奖得主、斯坦福大学商学院技术经济学教授、以人为本人工智能研究所副所长苏珊·阿西(Susan Athey)认为，大学在指导人工智能创新方面可以发挥优先引导的关键作用。由于私营部门的技术人员缺乏伦理、哲学方面的训练，难以开发出具有可解释性的算法框架，深化这类研究能够在人工智能治理的问题识别、建立开发实践框架、提供指引等方面发挥重要作用。此外，由于数据可以带来巨大的规模效应，当前“软件即服务”的平台经济模式已非常普及。人工智能和数据需求可能带来“伪”市场集中，因此，未来对“机器换人”的预测非常具有挑战性，需要重新关注和思考人工智能如何用于应对老龄化等公共管理问题，使基于人工智能的公共服务变得更加高效。
国际人工智能协会前主席、清华大学人工智能国际治理研究院学术委员约兰达·吉尔(Yolanda Gil)指出，由于人类对智能机制认知不足、智能行为本身的复杂性、观测手段的有限性以及个体知识、职业、信仰、文化背景等的差异性，导致当前人工智能研究中面临着一系列挑战，因此，需要加强人工智能基础研究工作，这需要跨领域、跨学科的共同努力。当前，理解人工智能机理和构建人工智能世界模型是人工智能研究面临的两大挑战。一方面，理解人工智能机理需要构架“感知-思考-行动”的智能模型，加强对大脑思维机理的理解，建议借鉴神经科学研究联合体的有益经验，建立全球性的人工智能研究数据库，形成全球共享的研究社区。另一方面，构建人工智能世界模型则需要建立在人类经验、社会习俗、专业技能的基础上，建议建立类似于自由协作式的知识库，通过全民民众参与，推动知识在全球层面共享。
中国科学院院士、清华大学人工智能研究院名誉院长、清华大学人工智能国际治理研究院学术委员张钹表示，由于深度学习等算法存在不可解释性，导致前两代人工智能算法存在着公平性、安全性问题和不可靠、不可信等缺陷。发展第三代人工智能关键在于发展可解释的、鲁棒的人工智能理论和方法，开发安全、可信、可靠、可扩展的人工智能技术，以“数据驱动+知识驱动”构建支持可解释的人工智能算法的深度学习平台，赋能人工智能安全与防御优化。从数据中真正获取智能要靠知识的帮助与引导，并需要政策法规对数据使用的正确规范，充分利用知识、数据、算法和算力四个要素结合，推动人工智能的创新发展。
中国工程院院士、北京大学信息科学技术学院院长、鹏城实验室主任、清华大学人工智能国际治理研究院学术委员高文认为，当前人工智能发展处于新一代人工智能向强人工智能发展的关键阶段，至2030年，中国人工智能发展总体要达到世界领先水平。从战略问题看，中美欧三方在人工智能人才、研究、开发、应用、硬件、数据等方面竞争激烈，当前中国人工智能发展在战略政策、数据资源、应用场景、潜力人才方面具有优势，而在基础理论、原创算法、关键部件、国际平台、高级人才等方面还存在短板。从战术问题看，人工智能2.0需采用基于大数据的统计AI解决大规模AI应用需求，鼓励各种可能的强人工智能探索，“可解释机器学习+推理”和“仿生系统+AI大算力”是可能的技术路线图；在安全问题层面，强人工智能的安全风险主要来源于模型的不可解释性、算法和硬件的不可靠性和自主意识的不可控性，人工智能2.0应采用DPI与“防水堡技术”解决数据安全与隐私保护，重视探索人工智能伦理问题，并基于“理论-技术研究-应用”的阶段性采取不同的风险防范策略。
美国国家工程院外籍院士、英国皇家工程院外籍院士、清华大学高等研究院双聘教授沈向洋表示，AI已经应用于生活和工作的方方面面，目前甚至在法律上也具有一定的应用，比如美国已经有很多法庭用机器学习和人工智能方法帮助判刑，包括决定刑期这样非常重要的问题。但是我们还无法理解一些AI决策的缘由。未来发展过程中我们不能只看见AI决策的“黑箱”，应该打开“黑箱”，探究和理解其中的具体内容和因果关系，我们一定要做可解释性的AI。同时，他提到负责任的AI应具备公平性、可靠性、隐私性、包容性、透明性和责任性的特点，作为新兴领域，还需要向其他领域学习，从而更好的服务于人类。
中国工程院外籍院士、清华大学智能产业研究院院长、人工智能国际治理研究院学术委员张亚勤指出，“碳中和”是人类能源结构的又一次变革。“碳中和”既是可持续发展的必然选择，又是产业结构调整和发展的重大机遇。企业在“碳中和”背景下都面临转型增效的压力。人工智能+物联网是智联网，智联网可以赋能绿色计算，助力“碳中和”。智联网助力“碳中和”主要包括三个环节：首先，由数据驱动和人工智能优化引擎来实现智能决策。其次，多参数全链系统配置优化。最后，通过多源多维异构感知融合实现智能感知。智联网可用于能源融合、降低ICT产业的碳排放和推动新兴产业发展等。他还介绍了智联网赋能的绿色计算平台的框架，该平台包括人工智能驱动节能减排和高能效人工智能系统，应用路径包括绿色园区和工业节能。
2021人工智能合作与治理国际论坛由清华大学主办，清华大学人工智能国际治理研究院承办，国际支持机构为联合国开发计划署。论坛为期两天，设有三场主论坛、一场特别论坛和七场专题论坛。“人工智能技术前沿与治理”主论坛由清华大学计算机科学与技术系教授、人工智能研究院常务副院长孙茂松主持。(完)
AI生成技术撼动艺术界 “魔法头像”让人欢喜让人忧******
【科技创新世界潮】
2022年似乎是人工智能(AI)突破性的一年，许多创新的AI产品投入市场。其中最受欢迎的产品之一是照片编辑应用程序Lensa，它能让用户创建类似动漫的数字肖像，该功能被称为“魔法头像”。近一段时间以来，Lensa凭借这些受欢迎的头像已跻身全球应用程序商店榜首，不仅如此，它在艺术界同样也成为了热门话题。
是什么让Lensa脱颖而出
这款于2018年发布的应用程序提供了一系列照片润色功能，例如，可通过使用滤镜和消除“瑕疵”来使自拍看起来更漂亮。最新版本的应用程序更新了“魔法头像”新功能。
用户通过手机上传10—20张脸部照片并支付一定费用，就能“委托”Lensa制作多达200张风格各异的AI肖像。
美国创业公司Stability AI今年8月开源了一个名为“稳定扩散”(Stable Diffusion)的AI模型，它可根据用户给定的文本生成对应的图像。根据美国在线科技杂志《How-to-Geek》的一份报告，它能让人们模仿不同的艺术风格，包括漫画、科幻、波普艺术和传统肖像画。而Lensa的这些肖像正是使用“稳定扩散”生成的。
澳大利亚《对话》杂志刊文称，如果“稳定扩散”是一个文本到图像的系统，那么Lensa似乎很不同，因为它接受的是图像，而非文字。这是因为Lensa最大的创新之一是简化了文本倒置的过程。
Lensa采用用户提供的照片，并将其注入“稳定扩散”的现有知识库，教系统如何“捕捉”用户的特征，以对其进行风格化处理。
使用者担忧隐私泄露
虽然“魔法头像”是一个有趣且令人印象深刻的功能，但它引发了人们对个人隐私和肖像权的担忧。人们担心该程序可能会在未经自己许可的情况下，通过将自拍作为AI模型的输入来创建个人的面部肖像。
此外，一些人质疑这款应用的价格，它要求最低支付6美元，或每年支付53.99美元才能使用个人照片创建AI图像。还有人担心，用户实际上是在花钱训练面部识别AI，并放弃了私人数据。
此外，该应用程序的创建者普里斯玛实验室此前曾因意外生成裸露的色情图片而陷入舆论旋涡，尽管该应用程序的政策是“禁止裸体”和“仅限成人”。该公司首席执行官表示，只有在AI被故意引导创建此类内容的情况下，才会发生这种行为，这违反了应用程序的使用条款。然而，正如美国科技类博客TechCrunch的报告中所述，一些人表达了对该应用程序被滥用的可能性以及它可能对用户的自我形象和身体形象产生影响的担忧。
除了存在非主动意愿生成色情内容的风险外，还有人担心AI可能被用来制造政治错误信息和扰乱教育。总体而言，Lensa AI应用提醒人们，AI技术仍处于实验阶段，如果监管不当，可能会产生意想不到的后果。
艺术家担心版权问题
Lensa AI应用程序及其“魔法头像”功能的流行，还引发了艺术家们的担忧，他们担心AI图像生成器的大范围使用会让他们丢掉饭碗。
根据美国媒体Futurism的报告，这种机器学习模型是在未经同意的情况下对图像进行训练的，个人或艺术家无法选择退出数据集。
然而，《对话》杂志文章表示，Lensa生成的图像借用了其他艺术家作品的创意，但不包含他们作品的任何实际片段。澳大利亚艺术法律中心明确指出，虽然单个艺术品受版权保护，但其背后的风格元素和理念却难以纳入保护范围。
西班牙漫画家兼插画家迪亚兹表示，AI只是将现有的东西进行非常空洞的混合。“如果你仔细观察，就会发现它背后没有任何意识。我真的希望人们能够理解我们(艺术家)在创作某些东西时所做的事情……希望人们会期待人类艺术。”
迪亚兹说：“我不反对人工智能，如果它是我们可以使用的工具，并且人们学会重视我们在工作中投入的东西，我认为它会很好。”
艺术的未来何去何从
《对话》杂志文章认为，虽然AI艺术模型在过去5年里取得了巨大进步，但它仍需要面对很多挑战。虽然它们作品中的文字是可识别的，但往往是无意识的。
还有一个明显的制约因素，那就是这些模式只能产生数字艺术。AI不能像人类那样用油彩或粉笔工作。就像黑胶唱片卷土重来一样，技术最初可能会创造出一种新的形式，但随着时间的推移，人们似乎总是会回到最高质量的原始形式。
最终，正如之前研究发现的那样，目前形式的AI模型更有可能成为艺术家的新工具，而不是创造性人类作品的数字替代品。例如，以AI生成的一系列图像作为起点，然后由人类艺术家进行选择和改进。这结合了AI艺术模型的优势(快速迭代和创建图像)和人类艺术家的优势(对艺术品的愿景，并克服了AI模型的问题)。这在需要特定输出的委托艺术的情况下尤为如此。
此外，还需要思考的是，选择不使用AI的艺术家可能无法跟上受AI加持的艺术家的脚步，而被时代抛弃。(科技日报 实习记者张佳欣)
