复旦科创先锋论坛聚焦人类如何与AI共存

2024年5月25日，“AI赋新，质启未来”为主题的复旦科创先锋论坛暨复旦大学MBA公开课在学院举行，复旦管院信息管理与商业智能系张诚教授、复旦大学计算机技术学院肖仰华教授分别带来主题演讲，分享了他们对通用人工智能应用的发展研究与前沿洞察。

智能时代已来，我们该如何与之相处？

2022年底通用人工智能（AGI）破圈后，今年文生图技术又取得了进一步突破，人们都被Sora的文生视频所震撼，我院信息管理与商业智能系系主任张诚教授首先以《与AI共舞》为主题进行了分享。

技术在不断改变世界。但从社会的角度，“Move fast and break things”这五个字则象征着硅谷最糟糕的一面：无情的野心，令人窒息的傲慢，不计后果、唯利是图的创新。

在技术快速发展的同时，背后我们还需要关注什么？多家企业在人工智能领域取得重大进展，这些进展在提升生产力方面表现尤为明显。例如，越来越多的企业开始采用复杂的模型来处理文本理解和生成。通过多智能体协作，多个相似的AI智能体可以一起工作。通过给大模型提示来构建不同角色。如CEO、设计师、产品经理、测试人员等。告诉它们角色和规则，让他们协作和对话。比如告诉它们“请开发一款游戏”，它们会花几分钟写代码，然后进行测试、迭代，然后生成程序。

张诚教授指出，人工智能技术不仅在商业应用中展现出强大的潜力，在社会责任方面也开始发挥影响。例如，利用人工智能技术帮助盲人更好地感知世界，这是对技术应用的一种积极探索。

然而，技术的快速发展也带来了一系列挑战和反思。我们需要警惕技术发展可能带来的泡沫，同时也要深入思考技术的社会影响。这些问题不仅关系到技术本身的发展方向，也关系到我们如何作为一个社会成员，负责任地使用这些技术。

人工智能正在成为人类社会的重要组成部分，科学家们正在像研究人类和动物行为那样，深入研究机器和人类之间的行为规范。2019年《自然》期刊发表了一篇以 “Machine behaviour” 为题的综述文章，宣告“机器行为学”这门跨越多个研究领域的新兴课题诞生。学术界开始思考，我们是否将AI当成平等的对象，而不把它当成工具。

在人和AI的共处过程中，我们需要深刻理解AI将如何影响人和企业。我们需要思考这些问题：如何与有误差的AI共处？如何与有别于人类思考模式的AI共处？我会听AI建议么？我什么时候会听？我会听什么建议？实际从商业的角度出发，我们不是要给技术加个“刹车”，但我们需要有自己的判断标准，更关注可靠性。

人类将成为智能机器的“牧羊人”  

“AGI时代，人类的新角色将是智能机器的牧羊人。在人机共生时代，人最重要的能力是使用和驾驭AI的能力。”我校计算机科学技术学院博士生导师、上海市数据科学重点实验室主任肖仰华教授随后做了题为《大模型铸就新质生产力的机遇与挑战》的演讲。

肖仰华教授指出，AI已经成为数据要素、人工智能形成新质生产力的主要技术手段之一，是推动我国经济高质量发展重要引擎，但也需要平衡发展与风险。大模型为大数据的价值变现蹚出了一条“端到端”（无人干预，至少是无客户干预）的道路，加快了大数据的价值变现进程，为大数据价值变现提供了一条新路径。基于大模型的大数据价值变现给我国数字化转型带来了全新契机。

大模型对于To C市场的意义在于，有望成为生活服务类应用的统一入口，全面升级个人消费品智能水平，并显著提升社交、游戏、情感、教育类应用的智能水平。对于To B市场的服务则是一次智能引擎升级。To B服务的智能化正在经历从传统小模型、知识图谱驱动向大模型驱动的引擎升级。

大模型还可以将智能解耦为知识、能力和价值等多方面，重塑企业智能化信息架构；将流程解耦，重新定位人和其他组件的价值。底座模型结合领域应用可以产生商业价值。底座模型具有平台效应，决定了基本水准；领域应用决定了最终落地效果。底座模型与领域应用均不可以忽视；“重模型、轻应用”与“重应用、轻模型”均不可取。

此外，肖仰华教授认为人们还需要关注大模型时代人类的处境。大模型落地场景具有规则清晰、意图明确、高流动性的特点，规范化服务为目标的岗位（如“窗口型”岗位），由于其不允许创新、追求规范化流程或标准，会是大模型落地试点的重要方向。

复合型人才需要综合多学科知识、不同技能，当前仍然难以被机器代替。高精尖人才的专业技能与水平仍然在大模型水平之上。顶尖专家的思维框架、异常处理、综合研判、隐性直觉仍然是大模型短期内难以胜任的。

AI应用需要“留白”，为人类的工作与技艺设立保护区，留出人类的工作机会、人类智力的实践机会、人类情感与道德事物的自主权。人必须也终将成为AI的尺度，AI的发展只能以人类的福祉为唯一依据与标准。

管理教育推广与发展中心

2024年5月28日