2023外滩大会开幕 生成式AI成为热议话题

【环球网科技综合报道】9月7日，2023 Inclusion·外滩大会在上海黄浦世博园正式开幕。这场以“科技·创造可持续未来”为主题的大会为期三天，近20位“两院”院士、诺贝尔奖和图灵奖得主，全球超500位有影响力的科技领军企业和专家学者，将在此带来一场科技、人文和产业的思想碰撞。

在主论坛上，中国科学院院士、复旦大学副校长张人禾表示，科学智能(AIforScience)已经成为当今科技届最热门的话题。

张人禾认为，科学智能已经成为人工智能的重点发展方向，推动跨学科的交叉研究，激发创新突破。加速科技创新与产业变革的深度融合，推动产业转型升级。“科学智能是推动科学研究范式变革、实现科技原始创新策源的利器，拥有引爆产业创新核爆点的巨大潜能。”

“国内科学智能也在迅速发展，相继涌现出大量的科学领域大模型，但仍处在起步阶段。”张人禾表示，面对“AI时代”的来临，“单打独斗”已不适应大科学时代的科技创新，要进行“有组织科研”，最大的优势在于布局建设大平台。张人禾透露，近年来，复旦大学在人工智能领域进行了颇有成效的探索。学校承担“人工智能前沿基础理论与关键技术”、“脑与类脑智能基础转化应用研究”两个市级重大专项攻关国际首个全脑计算平台。多个团队在顶刊、顶级会议发表人工智能领域代表性论文成果。

而模型的通用能力让其能够应用到人类生产生活的各个场景中，可谓“无孔不入”。AI的发展因此带来了新的安全隐私问题，如何解决这一隐患，中国科学院院士何积丰开出了他的“药方”：利用对齐技术为大模型戴上紧箍咒。

何积丰院士认为，大模型的安全问题主要是在未经同意的情况下，收集、使用和泄露个人信息。隐私问题既可能发生在训练过程，也可能发生在使用过程中，而大模型的生成能力则让“隐私泄露”的方式变得多样化，造成隐私保护更加困难。

“为了应对这些问题，我们需要大模型对齐技术。”何积丰说，“对齐（alignment）”是指系统的目标和人类价值观一致，使其符合设计者的利益和预期，不会产生意外的有害后果。

何积丰介绍，反馈强化学习是实现对齐的技术途径，目前有两种方式，一种方式是通过人工反馈给模型不同的奖励信号，引导模型的高质量输出；另一种方式，事先给大模型提供明确的原则，系统自动训练模型对所有生成的输出结果提供初始排序。“这意味着，不仅智能系统需要向人类价值观对齐，人类的训练方法也要向价值观对齐。”何积丰说。

据了解，在此次大会上，“两院”院士、诺贝尔奖或图灵奖得主，科技领军企业代表和专家学者，以及来自孟加拉、马来西亚、尼日利亚等新兴市场国家的科技创业者，聚焦人工智能、大模型、抗量子密码、隐私计算、图计算、安全智能、区块链、Web3.0等前沿数字科技及产业实践，展开深度探讨交流，并与会发布最新科技成果。

“人文”这一关键词也将贯穿大会始终，在技术发展的大背景下，如何帮助社会更好地适应数字革命？大会设有“可持续发展篇章”，重点关注社会责任、风险应对、ESG、科技伦理、消费者权益保护、数据安全和隐私保护、就业和人才发展等话题，并将举办40家科技企业联合招聘会。

同时，外滩大会的科技展览和绿色集市，以沉浸式、场景化、线上线下联动的方式，为参会者打造好玩好逛的科技创新展、绿色生活方式展。

科技展览贴近市民生活，展示科技在金融服务、出行、政务办事、安全等领域的应用成果，体现可全国推广、复制的“上海科创样本”；绿色集市设有荒漠、森林、海洋、城市四大主题体验区，近30个绿色可持续品牌参与，展示新潮的绿色生活方式、丰富的低碳商品、有趣的公益环保互动。

今年，外滩大会升级了组织架构，清华大学、复旦大学、上海交通大学、同济大学、浙江大学、上海报业集团、外滩投资集团、蚂蚁集团等多家单位组建成立外滩大会组委会，以“开放的模式”更好推动金融科技和科技领域的交流与合作。同时，外滩大会还设立了国际化的学术顾问委员会，并首设高能级金融科技咨询委员会、科技人才交流会，进一步提升大会影响力和公共价值。