2023 负责任的人工智能（Responsible AI）研讨会举行

2023年7月13日，由学院主办的“负责任的人工智能（Responsible AI）研讨会”举行，来自复旦大学、阿里巴巴和全国多所高校的专家老师们，围绕“负责任地开发、使用和治理人工智能”这一相对较新的研究领域展开对话，探讨了最新的理论思考与实践。我院信息管理与商业智能系张成洪教授主持本次论坛。

我院信息管理与商业智能系系主任张诚教授首先代表主办方致辞，他表示，随着时代的发展，AI不仅涉及算法，更要考虑用户使用、社会公平公益，希望以本次研讨会为契机，将负责任的AI理念传达给更多校友与企业，大家群策群力，一起做好这方面的研究和企业应用，最终达成增进人类福祉的目的。

主题演讲环节，阿里数据流通与治理平台算法总监及负责人刘洪分享了他的思考。刘洪介绍，对于算法开发者来说，遇到的所有问题都可以抽象为四大类，第一是隐私或版权问题，第二是信任问题，第三是公平和歧视问题，第四是高质量问题。而阿里基于这四个挑战，从Responsible AI到Responsible DI，再到如今的Responsible AIGC，不断升级项目内容和架构，以应对大模型时代新的机遇。“AI也好，AIGC也好，最终去践行这一切的还是Responsible的人。”他强调，“人才是最重要的，应从高校里就开始培养学生的Responsible理念和能力，这也是我们把项目向全社会开放的原因。”

随后，阿里数据流通与治理平台高级算法专家顾杰进一步介绍了其团队的工作。安全合规、透明清晰、公平多样、高质高效是项目的四个原则。安全合规首先是增强用户隐私，实现或者近似实现匿名化是关键所在，同时也涉及知识产权保护和毒性消除。透明清晰原则在AIGC的背景下新增了“可判别”的标准，例如，需要判别网络上的图像到底是AI生成的，还是人类制作的。公平多样原则的目标是实现非歧视。而高质高效原则是最高的要求，在这方面阿里目前主要在做包括高质量语料、高性能部署和新的生产范式等三块内容。

复旦大学计算机学院教授、上海市数据科学重点实验室主任肖仰华指出：“要借助大模型的力量来解决大模型的问题。”他鼓励围绕大模型的数据治理、认知增强、样本、增强、纠偏、样本优化、多模融合、知识注入、事实编辑、领域适配、价值对齐、认知提升等关键技术，重点建立大模型的知识质量评估体系。此外，对于大模型训练语料本身的质量评估标准也是一大空白点。“从数据的源头进一步提升大模型的治理水平，从而提升其质量，这是非常关键的事情。”肖仰华教授说。

我院会计学系朱振梅副教授则从自身学科出发，讨论了会计视角下的算法治理与审计问题。目前会计师事务所主要提供的服务，一大类是非保证类的服务，提供诸如税务、记账等业务，另一类则是保证服务，在其大框架下，“审计就是通过客观地获取和评价有关经济活动和经济事项认定的证据，以查明这些认定与既定标准之间的符合程度并将其传达给相关利益方的过程。”如今，审计技术的演进和趋势越来越朝着AI或者算法方向发展，在会计和信息系统之间的交叉前沿，未来还有广阔的探索空间。

浙江大学管理学院特聘副研究员陈刚分享了基于效率与公平的推荐方法研究，以推荐系统为例，抛出“在不损失AI精度的前提下合理实现AI公平性”的观点。他指出，推荐系统中存在群组歧视、活跃度歧视和偏好同质化差异或者说是信息茧房的问题，这正是完整的推荐系统信息流通闭环中的三个重要环节所产生的三种偏差，其中最核心的挑战是如何做好准确性与公平性的统一。“这个统一不是简单的协同，也不是简单的多目标优化，而要从模型内在入手，消解信息非均衡的偏差，从模型内在解决其所具有的歧视性。”

当OpenAI、GPT、ChatGPT语言模型以及其他基于人工智能的技术进一步发展并影响人类生活和社会，如何对模型的工作原理、训练方式和使用的数据保持透明正日益成为一个至关重要的问题。最后，我院钱世政教授表达了自己的看法：“要做负责任的人工智能，背后一定有知识界限，那就是价值观。”他强调必须拥有全球化的视野，才能看清我们当下的知识是否有局限。