朱宁:AI 可能给三个领域带来意想不到的冲击或变革
6 月 18 日,在 2026 陆家嘴论坛“全体大会六:科技创新赋能金融高质量发展”上,上海交通大学上海高级金融学院(高金)金融学教授朱宁表示,AI 可能给三个领域带来意想不到的冲击或变革。一是对微观层面个人行为的冲击。这不仅会导致人们对错误信息或虚假信息产生过度依赖,还会引发过度自信的膨胀,让人产生“无所不知”的错觉。同时,它还会带来博弈层面的影响。以导航系统为例,当所有人都相信并依赖同一套导航信息时,原本规划的最不拥堵的路线,往往会因为大量车辆的涌入而变成最拥堵的路线,这在经济学上被称为“合成谬误”。在 AI 场景下,人的行为模式会发生改变,这种改变可能会进一步加剧人类的行为偏差或非理性决策机制,这是我们需要高度关注的风险点。二是从伦理和社会学的角度来看,人类究竟应该与 AI 保持怎样的关系?随着 AI 对社交媒体内容的贡献度越来越高,下一阶段是否会对 AI 和 AIGC 的成长方式与速度进行限制?这已成为全社会都需要深入探讨的重要议题。三是关于 AI 治理结构的国际合作。当前,人们普遍期望 AI 能够向善、赋能并助力人类。但如果 AI 发展出自主能力,或者落入别有用心的人手中,它可能会生成虚假信息、产生“幻觉”,甚至有意识地对人类或特定企业做出不利行为。面对这些情况,究竟该由谁来治理?谁来监管?谁来惩处?这些问题在全球范围内尚无定论,且整个治理体系仍在快速演变之中。
6 月 18 日,在 2026 陆家嘴论坛“全体大会六:科技创新赋能金融高质量发展”上,上海交通大学上海高级金融学院(高金)金融学教授朱宁表示,AI 可能给三个领域带来意想不到的冲击或变革。一是对微观层面个人行为的冲击。这不仅会导致人们对错误信息或虚假信息产生过度依赖,还会引发过度自信的膨胀,让人产生“无所不知”的错觉。同时,它还会带来博弈层面的影响。以导航系统为例,当所有人都相信并依赖同一套导航信息时,原本规划的最不拥堵的路线,往往会因为大量车辆的涌入而变成最拥堵的路线,这在经济学上被称为“合成谬误”。在 AI 场景下,人的行为模式会发生改变,这种改变可能会进一步加剧人类的行为偏差或非理性决策机制,这是我们需要高度关注的风险点。二是从伦理和社会学的角度来看,人类究竟应该与 AI 保持怎样的关系?随着 AI 对社交媒体内容的贡献度越来越高,下一阶段是否会对 AI 和 AIGC 的成长方式与速度进行限制?这已成为全社会都需要深入探讨的重要议题。三是关于 AI 治理结构的国际合作。当前,人们普遍期望 AI 能够向善、赋能并助力人类。但如果 AI 发展出自主能力,或者落入别有用心的人手中,它可能会生成虚假信息、产生“幻觉”,甚至有意识地对人类或特定企业做出不利行为。面对这些情况,究竟该由谁来治理?谁来监管?谁来惩处?这些问题在全球范围内尚无定论,且整个治理体系仍在快速演变之中。