环球速递!干货 | AI算法透明性实现与评估
以下内容整理自清华大学《数智安全与标准化》课程大作业期末报告同学的汇报内容。
我们主要从分析问题、解决问题、效果评估和实际验证四方面,推动这一课题的研究,并形成相应的研究成果。
第一部分:AI算法透明概述
(资料图片仅供参考)
第一部分,AI算法透明概述,主要凝练了当前AI算法透明性存在的挑战。
近年来,人工智能技术的发展使得其透明性问题日益凸显,为保障用户对算法知情,实现监管机构对算法进行有效规范治理与问责,算法透明性必不可少。
然而,算法透明性更类似于原则性的提议,具体如何落实透明性要求,并对其进行有效评估,尚未形成共识。
因此,我们对AI算法透明当前存在的诸多挑战进行了总结,主要涉及三个维度:技术、评估和制度。
技术上,很难处理AI算法的黑箱问题;
评估上,对透明程度的要求很难把握尺度;
制度上,算法问责机制仍然模糊。
为有效应对这些挑战,我们首先给出算法透明性实现路径,解决技术和制度问题,之后提出算法透明评估清单应对评估问题,最终在推荐系统下进行实践与应用。
第二部分:实现AI算法透明
宏观上,我们首先需要AI算法透明性治理范式,针对当前在算法监管立法等多个层面的挑战。我们希望打破透明性中耦合的机制主义和管理主义,形成一种以法律规制为主导,技术适配为基础的多元一体、多方协作的AI算法透明性治理范式。
微观上,这一范式的实施措施落实到学术、法律、技术和场景四方面。
学术上,国内外学者研究主要从多方视角相关主体出发,提出了若干在法律规制和技术适配方面的思考。
法律上,鉴于算法透明,是实现算法问责的重要机制。主要可以总结为两种实现AI算法透明的模式:赋权模式和行为规范模式。赋权模式属于事后救济,而行为规范模式属于事前预防和事中约束。
这里我们具体对比了不同国家地区的法律,发现各国都采取健全算法问责机制等措施。此外,我们也注意到欧盟还强调对算法参数的公开。
技术上,我们聚焦于实现从不透明模型向可诠释模型、可理解模型转变的可解释技术,该技术具体分为事前解释、事后解释和可诠释模型。针对不同的应用实例,又会有更为细致的方法。
不同的应用场景,对AI算法透明体现出不同的场景需求。我们也分别在自动驾驶、材料化学、智能教育和建筑设计,四个细分领域内进行了需求分析和方法探索。
第三部分:评估AI算法透明
鉴于现有法律规制大多在宏观层面强调算法透明监管原则,却鲜小有具体措施。因此,我们提出一套相对详细、可实施的评估标准,以细化并落实算法透明度合规要求。
首先,面向算法使用者的AI透明度评估清单的设计目标,在于保障知情权。内容主要分为算法概述与技术信息,要求算法开发方对这些内容进行说明。
算法使用者的AI透明度评估清单相较于面向用户的清单,由于监管方需要根据算法评估内容进行等级评估,所以该技能较为严格,需要说明的内容也更为复杂。
为配合透明度评估清单的使用,我们还提出了透明度评估等级表。面向不同使用场景的算法分为五个等级进行评估,不同等级对于算法开发者应当达到的透明度有不同要求,且逐步加强。
具体这个清单是如何工作的呢?如左图所示,评估流程有助于监管方对算法开发者在事前、事中和事后阶段做出责任分配。
在开发方与使用者方面,开发方遵照透明度用户指南向算法使用者提供算法的透明度指南。之后,使用者需要阅读指南,以此确立两方权责分配并获得知情。
第四部分:AI算法透明实践
我们选择推荐系统作为典型实例,也是因为推荐系统最能体现AI算法透明的要求。如果能让外界理解为什么信息被推荐给乙方,其实就达到了这个场景下的透明度要求。
通过实现推荐系统的透明性,也能提升用户对系统的信任程度,使系统推荐结果得到检验,同时受到有关方面的监管。
考虑到推荐系统目前采用的AI推荐算法众多,所以我们设计了一个推荐系统外的解释系统或算法,用于对推荐系统进行解释或直接作为一个整体对外提供具有解释性质的推荐。
其核心算法是采用知识图谱与强化学习的技术,充分挖掘推荐系统中的可解释模型,以此进行相关的路径挖掘,并利用解释路径对推荐系统行为加以解释。
这里我们采用一九年一个公开的购物网站公布数据进行结果演示,在利用上述算法完成解释系统后,对数据集进行路径挖掘,得到左图所示的结论。
基于上述深层的推理路径,对推荐系统的多个推荐实例进行解释。结果表明,方法不仅能够帮助推荐系统获得有希望的推荐结果,而且能够有效为推荐系统找到不同的用于推荐解释的推理路径。
之后,我们分别将未加入和加入这一解释算法的推荐系统,按照前一章节设计的流程进行算法评估。结果表明,融入解释算法后的推荐系统,在透明度上有明显提升,但监管方也注意到,新的具有解释性质的推荐系统,在技术和社会风险上处理方法上有缺,要求对当前算法做进一步改进,并对提交的材料进行补充。
感谢各位的聆听!以上就是我们小组要汇报的全部内容。
编辑整理:陈龙上一篇:日本多数国民反对核污染水排海方案
下一篇:最后一页
- 你好!厦门!我是多多邦手作工坊!
- 头条焦点:协同发展的智能网联汽车标准体系
- 焦点速看:高!大!上!——希望森兰携手博赛集团打造万州一号工程!
- 天天亮点!载誉前行,笃行不怠 | 和利时电机近期喜获多项殊荣
- 全球即时看!诺德推出新型 MAXXDRIVE® XD工业齿轮箱,适用于范围广泛的起重装置
- 全球资讯:二氧化碳传感器用于地下商业街空气质量监测
- 每日快播:越疆日照生产基地第10000台机器人正式下线
- 世界热头条丨装配机器人应用 现状应用领域有哪些
- 天天动态:通往机器安全的理想路线
- 世界快资讯:赋能千百行 “5G+工业互联网”加快落地深耕
-
天天亮点!台达LED直流智能照明方案 点亮家门口的“指路灯”
加快推进道路照明节能改造(资料图片仅供参考)既是助力实现碳达峰、碳中和目标的重要手段也是推动城市基础设施数字台达LED直流智能照明方案
-
每日讯息!引领叶片回收技术,西门子歌美飒推出全球首款陆上风机可回收叶片!
西门子歌美飒宣布推出为陆上风电项目设计的可回收叶片,这一里程碑式的产品将进一步提升风电行业的可持续性,推动风电成为一个完全可回收的
-
报道:云化PLC+5G以创新辟蹊径,或将打破工控垄断!
近年来,三大运营商们立足于自身在5G方面的技术优势,加大与传统工控企业的合作,布局“5G+云化PLC”,力图布局并抢占智能制造市场。2020年
-
头条:协作机器人市场规模及发展前景分析
协作机器人是工业机器人的一个重要分支。协作机器人以轻量化设计为主,结构相对简单,整个机器人缺乏刚性。因此,协作机器人的负载一般低于
-
热点在线丨100%持有Aveva 施耐德电气斥资近39亿英镑收购剩余股权
(资料图片)9月21日,施耐德电气发布声明称,公司同意以每股31英镑的价格收购英国工业软件公司剑维软件(Aveva Group Plc)少数股权,这个价
-
环球快讯:“智能化+集成化”,滚筒电机走上“智造”之路
(资料图片)“电机被誉为“工业之母”,是现代工业发展的动力源泉,自1821年法拉第发明世界上第一台电机算起,至今已有近200年历史,并且广
-
速讯:连续增长8个季度后,全球半导体市场收入2022年第二季度出现下滑
(资料图片)Omdia《半导体市场竞争格局追踪》报告显示,2022年第二季度半导体市场收入首次下滑,增长进一步疲软。2022年第二季度半导体市场
-
今日观点!工业互联网推动数字化创新领先城区、园区名单发布
(资料图)日前,工业互联网平台创新合作中心公布了2021年全国城区、园区工业互联网发展指数。城区与园区作为我国经济的增长极与助推器,对区
-
【天天新要闻】8月全球工业制造业PMI降至50.9%
(资料图片)9月9日,在工业和信息化部举行的主题新闻发布会上,工业和信息化部信息技术发展司副司长王建伟介绍,截至今年第二季度,我国制造
-
天天微动态丨2030年美国所售汽车中电动汽车有望超过50%
(资料图片仅供参考)9月22日消息,据国外媒体报道,特斯拉总部所在的美国,虽然电动汽车的销量已相当可观,但在所销售新车中的比例,仍要低
X 关闭
全球头条:新能源布局加速落子 风电光伏建设正酣
每日速递:气体传感器的发展现状与未来展望
当前速递!国内三大石油企业发布半年报 目光投向新能源
【全球聚看点】如何在智能建筑物联网与隐私之间取得平衡
快资讯:欧洲7月电动汽车销量同比下滑5%
X 关闭
日本多数国民反对核污染水排海方案
世界观速讯丨外汇市场最新行情走势展望:澳元/美元多头寻求突破0.6990
天天速讯:广信材料:接受易方达基金等机构调研
下判决后一般多久能办理监外执行
预计14日至20日出现节前进出岛高峰 可以这样快速了解港口动态→-天天微动态