近日，由清华大学数据治理研究中心主办的“人工智能伦理与治理”研讨会在线上举行。浙江大学公共管理学院长聘副教授、研究员吴超提出要用形式化数学方式将算法伦理模糊目标可实现化，强调技术问题最根本的解决方法是发展技术本身。
“人工智能并没有我们想象当中的那么强，它很难对我们复杂的社会系统进行建模。”吴超指出，现在人工智能最强的深度学习方法，是用模式识别的方法去拟合泛化能力较强的函数，它对于不同个体的行为以及社会个体之间复杂交互的预测能力较弱。
对于人工智能的伦理和治理问题，吴超表示这是一个交叉领域，但并不是一个交叉应用的问题。“我们应该从社会科学的视角向人工智能提出新的科学问题和优化目标，驱动人工智能未来的发展和算法的创新。”
吴超强调，我们现在没有办法做到透明性，即模型可解释性。因为现在还没有一种可解释的数学方法能够让一个有几十亿个参数的神经网络变得透明，所以更重要的是，我们能否从社会科学的角度去驱动这些可解释性的研究。“这应该是比较基础和漫长的过程，但我们不能因为对人工智能没有一个很好的解释就不使用它。”
吴超指出，这种学术思路涉及到一个很基本的问题，即对社会治理问题的形式化描述，比如如何把“向善”表达为一种机器学习可以理解的目标。“这也是我们一直想促成的学科交叉的对话内容，而不是各有各的词汇集。我们能够用一种形式化的数学方式把这些模糊目标转化成为一个可实现的目标。根据这种学术思路，最近几年我们一直在做‘分布式的智慧治理’的题目，即如何构建一种群体智慧作为未来智能社会基础的智慧结构。”
吴超还提到该研究方向上几个比较重要的科学问题：第一个是不以模型泛化能力为目标，更加重视人工智能当中的个异性，而不在于用一个整体模型对更多节点做广泛性的适用。第二个是如何对动态性进行建模的支持。第三个是如何提高聚合模型的公平性。
“总而言之，我认为要解决技术带来的问题，最根本的方法应该是发展技术本身。目前AI还处在一个技术非常不成熟的早期阶段，从社会治理或者伦理角度来纠正它的方向，在相应的方向进行更加扎实的研究，这也是我们目前努力的方向。”吴超说。
回顾“人工智能伦理与治理”专题研讨会：
人工智能伦理与治理研讨会成功举办
《人工智能伦理与治理报告》内容解读
孟天广：人工智能伦理及其治理要打通科技社群与社会大众
吕鹏：人工智能伦理问题需实证证实或证伪
陈水生：人工智能伦理和治理需要“发展”和“监管”双轮驱动
李锋：人工智能伦理不能脱离社会经济状况和历史视角
孙宗锋：需研究公众对人工智能伦理关注重心的背后原因
赵娟：人工智能治理框架应处理四对关系
熊易寒：把算法还原成普通人能理解的逻辑
贾开：应从技术与社会互嵌角度重视人工智能治理框架
曲甜：从技术与组织关系分析人工智能的治理模式
宁晶：网络用户使用技能和心理效能影响算法接受度
张小劲：算法治理应致力于促发展、防滥用并消除污名化现象
更多与会专家发言内容，欢迎查看专题报道，或关注清华大学数据与治理研究中心官方微信公众号“数据与治理”。
（来源：中新经纬APP，未经授权禁止转载）
