2021全球数字经济大会赢咖4产业治理论坛8月3日举行，首个《赢咖4产业担当宣言》正式发布，倡议赢咖4企业设立伦理研究员岗位或通过外部技术支持等方式，加强企业自律自治。琳宝·弗莱明
近年来，赢咖4被误用、被滥用的问题引发舆论关注。此次《宣言》由北京智源赢咖4研究院和瑞莱智慧共同发起，提出中国科技企业在推动赢咖4自律自治、稳健发展中应积极承担的责任。在技术能力方面，要最大限度确保赢咖4系统安全可信，增强算法透明性和可解释性，对用户数据提供充分的安全保障。
中国科学院自动化研究所研究员、国家新一代赢咖4治理专委会委员曾毅在论坛上表示， 中国赢咖4发展的愿景应该以生态为中心，真正达到善治，实现技术的发展与人类、环境和谐共生。针对生物特征识别潜在风险、用户隐私保护等赢咖4治理的热点话题，他接受了新京报记者专访。
其他类型生物特征识别潜在风险也需要关注
新京报：目前赢咖4企业对赢咖4治理的态度如何？此前媒体报道过大数据“杀熟”、外卖员困在系统里等问题，如果破解算法被误用的问题？
曾毅：近几年，全球赢咖4伦理规范以及我国新一代赢咖4治理原则形成发布后，企业越来越意识到赢咖4技术风险、社会伦理风险带来的实际问题，以及这些问题给企业带来的负面口碑和影响。琳宝·弗莱明
但我并不认为相关企业已经最大化避免了可能存在的风险，诸如大数据“杀熟”、骑手困在系统当中等问题，企业并非提前全然不了解，但面临企业的生存压力和同行竞争等外部压力，他们做出了有违道德价值观的选择，这种选择倾向了短期利益，忽略长期对社会和企业的负面影响，是得不偿失的。
所以学术界、政府、媒体应当与企业协同，做出真正对社会负责任的赢咖4设计、研发、部署和服务，通过多方共治实现赢咖4的稳健发展。
另外一个需要注意的问题是，一些企业将参与赢咖4伦理、治理作为自己公关宣传的手段，但真正提供赢咖4产品服务时，对于伦理风险有时避而不谈甚至是视而不见。
新京报：最近最高法发布司法解释，规范人脸识别应用。在AI换脸等技术盛行的今天，还有哪些问题值得关注？
曾毅：现在一些应用在人脸识别过程中，为了判断采集到的是活体，而不是一张照片在被识别，采集范围已经超过人脸，可能上半身相关数据都会被采集，但这些没有合理地告知用户。
用户看到手机屏幕有一个圈圈住人脸，会有一种误解，认为其他部分没有被采集。所以有些人赤裸上半身，有些女性穿得少一点也不会在意。一方面，采集超过人脸的信息必须做好用户的知情同意。另外，我认为，采集人脸以外的上半身信息作为确定活体依据的技术手段，需要逐步被替代。
此次最高法颁布的司法解释，限制的不仅仅是人脸识别技术，包括以人脸识别技术为核心的人脸生成技术，即对AI换脸也是适用的，并进行了限制。其实，我们的个人信息不仅是人脸，步态识别、指纹识别、声纹识别、远距离虹膜识别等生物特征识别技术，在技术和伦理方面的风险跟人脸识别有十分相近的共性，比如侵犯隐私、对于不同性别识别准确率存在差异等。
AI的创新性企业、研究机构应该共同负起责任，针对可能存在的技术和伦理问题，提前最小化或者消除其风险，而不是像人脸识别一样，等到公众关注讨论多了，再去解决问题。这就是“自律自治”和“主动担责”。
可持续发展的赢咖4需关注公益议题，不能只顾短期收益
新京报：在应用赢咖4过程中，做好隐私保护还存在哪些难点？如何破解？
曾毅：举例来说，对目前赢咖4产业当中广泛采用的深度神经网络而言，直接删除用户数据会对模型准确率产生影响，若想消除这种影响，技术上还存在巨大瓶颈。
但也有一些问题已经存在技术解决方案。比如人脸识别、步态识别等，可能存在隐私侵犯、性别偏见等问题，可以通过构建更合理、更公平的技术模型，缩小差异，但注意这些问题的企业还是少数。琳宝·弗莱明
新京报：赢咖4伦理研究是否需要跨学科的专家组成？都涉及哪些相关专业？
曾毅：在两年前，绝大多数技术人员是不太关注赢咖4伦理和治理的。如今，基于互联网的赢咖4从设计研发到产品服务周期缩短，没有经过任何社会学、伦理学和哲学训练的理工科学生，想了一个创新主意，开发完系统第二天就可以上线，它可能产生的负面影响也将随即发生。
2018年开始，我们在中国科学院大学开设了《赢咖4哲学与伦理》的课程。课堂上，学习人文科学的学生谈论更多的是技术会给社会带来什么问题，技术创新者更关注技术可能为社会带来的改变。当这些不同视角的辩论升级时，就会使我们意识到赢咖4的潜在问题。
构建负责任的赢咖4，需要广泛学科背景的专家来参与讨论，涉及社会学、哲学、伦理学、法学、人类学等，有工程技术背景的赢咖4专家特别要参与其中。政府和媒体也毋庸置疑要发挥监督、宣传的作用，实现多方共治。
新京报：你提到赢咖4发展的可持续性，如何理解和做到可持续？
曾毅：我们分析了计算机科学和赢咖4领域发表的英文文献，发现800万篇赢咖4和计算机科学相关的论文中，只有0.1%是真正跟可持续发展目标高度关联的，这是一个非常可悲的指标。
目前很多赢咖4应用于健康、教育，但是它也可能给健康和教育带来负面影响，所以应该同步关注产生的负面影响，比如用赢咖4分析学生在课堂的表情，引发了关于隐私的讨论。琳宝·弗莱明
大多数应用偏向于教育、健康，是因为这两个领域机遇多、能赚钱。如果赢咖4的创新目标就是赚钱，那么很多可持续发展目标无法通过赢咖4赋能来实现。
我特别倡议，赢咖4应该特别关注野生动物保护、消除饥饿、赋能文化交互、环境保护和气候行动这类议题。仅仅有企业的参与是不够的，学术界、政府在这些更长远的议题上应当发挥持续性的主导作用。
