实时:原创 | 一文读懂机器学习中的shapley值方法
作者:贾恩东本文约2000字,建议阅读9分钟本文为你介绍更公平分配利益权重的一种算法——Shapley值方法。
(资料图片)
本篇文章是数据派一文读懂系列的新年第一篇原创,在这里祝贺大家新年学业有新成就,生活有新气象!这次带大家了解一种有趣的从数学角度计算合作博弈贡献从而更公平分配利益权重的算法——Shapley值方法。
相信大家在日常生活中都接触过这样一个现象,那就是1+1不等于2。好了,不开玩笑,作者想说的是,很多时候多个主体分别产生的影响和共同产生的影响是不具备严格加性的。有句俗语,一个和尚挑水吃,两个和尚抬水吃,三个和尚没水吃。分开的三个和尚每个每天都挑水,但放在一起“协作”反而就没有水产出了。这里是一个关于协作的负面例子,但更多的是协作的正面例子,就是1+1大于2的效应。以下用一个案例具体来说明。
某公司有三个程序猿,分别是屌丝A,大佬B,美女C,如果大家不合作,A每个季度可以完成3个项目,B每个季度可以完成10个项目,C每个季度只能完成1个项目。但是老板小王为了充分挖掘员工潜力,合理配置公司资源,让A,B,C尝试了各种合作模式。王老板观察发现,屌丝都是潜力股,美女都是催化剂:屌丝A和大佬B合作每个季度可以完成15个项目,合作效果提升还行;屌丝A和美女C合作每个季度可以完成50个项目,合作效果爆炸;大佬B和美女C合作每个季度仅完成了12个项目,看来对大佬来说不影响拔刀的速度就不错了;ABC一起合作每个季度可以完成70个项目。最终王老板拍板让ABC以后就一起工作,按照小组完成的项目数额外发放项目奖金。请问聪明的读者,按照最公平正义的分配方法,哪位员工获得的奖金是最多的呢?
说A的同学:明显屌丝是潜力股,虽然单独工作表现一般,但是和美女一起合作,大大激发了工作热情,肯定是A贡献最多!说B的同学:应该是大佬贡献最大,因为单独来看,大佬本身能力是最强的!说C的同学:应该是美女贡献最大,虽然美女单独工作没什么效率,但显然对团队的影响无法替代!
请先别急,我们接下来使用理性的数学思维分析这个问题,可以顺便推导出shapley值的公式。
设想我们顺序将ABC放到合作队伍中(合作队伍一开始为空),那么合作的组合会有3!=6 种,如下表:
加入顺序 | A加入的贡献 | B加入的贡献 | C加入的贡献 |
A+B+C | 3-0=3 | 15-3=12 | 70-15=55 |
A+C+B | 3-0=3 | 70-50=20 | 50-3=47 |
B+A+C | 15-10=5 | 10-0=10 | 70-15=55 |
B+C+A | 70-12=58 | 10-0=10 | 12-10=2 |
C+A+B | 50-1=49 | 70-50=20 | 1-0=1 |
C+B+A | 70-12=58 | 12-1=11 | 1-0=1 |
表中的贡献计算方法可以举个例子来说明,B+C+A的顺序组合中,A的贡献是ABC的合作扣除BC的合作,即70-12=58;B的贡献就是B加入空的贡献,即10-0=10。其他类推。
但最终的加入顺序只有一种,而各个顺序都是等可能的。因此, A的贡献可以计算期望:(3+3+5+58+49+58)/6=176/6 B的贡献可以计算期望:(12+20+10+10+20+11)/6=83/6 C的贡献可以计算期望:(55+47+55+2+1+1)/6=161/6
这些贡献期望加在一起,(176+83+161)/6=70也恰是ABC的整体合作效果,验证了我们计算的合理性。做个简单除法,得出最终A的贡献占比是29.33%,B的贡献占比是13.83%,C的贡献占比是26.83%。A的贡献是最多的,C也很多,B最少。同学你猜对了吗?
我们接下来把问题抽象化。假设有n 位合作人,任何一种合作组合例如第1位和第2位合作组合记为{1,2},是一个有序集合的概念,对于组合 s 来说,它的收益表现记作 v(s)。假如某集合 s 包含 第 i 位合作人,则第 i 位 合作人在这种情形下的贡献为 v(s)−v(s\textbackslash{i}),解释为集合 s 的效益减去 集合 s 扣除第 i 位合作人后的新集合的效益。
因此我们可以得到第i 位合作人的贡献期望为:
这里Si 是所有包含 i 的所有子集的集合, P(s)是对应合作顺序组合 s 的出现概率。可以这样计算该概率,首先 s 中 前|s|−1 合作人顺序进入合作集合,然后是合作人 i 加入集合,最后是后 n−|s|个合作人加入合作集合。这样构成了该种顺序组合,这样有(|s|−1)!×1×(n−|s|)! 种,一共则有 n! 种顺序组合,所以有:
最终的shapley值公式即:
到这里,关于shapley值方法的公式就已经推导完毕了。
值得一提的是,Shapley值方法是有严格的公理化体系支持的,感兴趣的同学可以自行检索学习。Shapley值方法很公平,在经济、金融、管理、政治中都有不少的推广应用。比如多方金融投资合作如何分配利润;不同人数的党派团体如何更科学地设置投票通过票数;安全管理团队中按照重要性对事故中的不同责任方进行责任判定等等。在机器学习中,也可以使用Shapley值方法对不同的特征进行重要性评价,进行特征的筛选工作,即使是深度神经网络这种黑盒模型也可以获悉不同特征对于整个算法的贡献分布。
在文章的最后,需要多提一句,Shapley值方法虽然很好,但对于n 值很大的情况,计算很不友好,因为需要获悉所有组合集合的获益,这种组合集合一共有 2^n 种,不论是数据获得还是后续计算,都有不小的成本开销,所以有几种补救办法,有的是将合伙人分成若干组,按照组为最小合作单位进行计算;有的则是只考虑 n−1 大小的组合上增加合伙人带来的边际贡献等。无论是何种方法,本质上都和本文核心内容类似。
编辑:黄继彦数据派研究部介绍
数据派研究部成立于2017年初,以兴趣为核心划分多个组别,各组既遵循研究部整体的知识分享和实践项目规划,又各具特色:
算法模型组:积极组队参加kaggle等比赛,原创手把手教系列文章;
调研分析组:通过专访等方式调研大数据的应用,探索数据产品之美;
系统平台组:追踪大数据&人工智能系统平台技术前沿,对话专家;
自然语言处理组:重于实践,积极参加比赛及策划各类文本分析项目;
制造业大数据组:秉工业强国之梦,产学研政结合,挖掘数据价值;
数据可视化组:将信息与艺术融合,探索数据之美,学用可视化讲故事;
网络爬虫组:爬取网络信息,配合其他各组开发创意项目。
点击文末“阅读原文”,报名数据派研究部志愿者,总有一组适合你~
转载须知
如需转载,请在开篇显著位置注明作者和出处(转自:数据派THUID:DatapiTHU),并在文章结尾放置数据派醒目二维码。有原创标识文章,请发送【文章名称-待授权公众号名称及ID】至联系邮箱,申请白名单授权并按要求编辑。
未经许可的转载以及改编者,我们将依法追究其法律责任。
点击“阅读原文”加入组织~
-
2023-01-13 11:03:56
实时:原创 | 一文读懂机器学习中的shapley值方法<
作者:贾恩东本文约2000字,建议阅读9分钟本文为你介绍更公平分配利益权重的一种算法——Shapley值方法。本篇文章是数据派一文读懂系列的新年
-
2023-01-13 08:16:05
每日头条!立昂技术(300603.SZ):券商协助司法执行误操作公司实控人王刚账户<
智通财经APP讯,立昂技术公告,公司于2023年1月12日收到协助司法执行的券商发出的《关于误操作立昂技术股份有限公司大股东王刚股份的情况说明
-
2023-01-12 21:07:24
动态:组图直击现场:福建省人大代表分组审议政府工作报告<
各位人大代表纷纷踊跃发言。人民网刘卿摄各位人大代表纷纷踊跃发言。人民网刘卿摄各位人大代表纷纷踊跃发言。人民网刘卿摄人民网福州1月12日电
-
2023-01-12 16:35:18
天津、河北等七省(市)签订跨省流域横向生态保护补偿协议_全球新视野<
【天津、河北等七省(市)签订跨省流域横向生态保护补偿协议】财政部网站消息,1月11日,天津市、河北省等七省(市)在全国流域横向生态保护补偿
-
2023-01-12 13:13:20
订单已超千架!<
C919飞机完成航线验证飞行后,中国民航局将对验证结果进行审定和检查,确认东航具备安全运行C919飞机能力之后,颁发相应运营许可
-
2023-01-13 11:03:56
实时:原创 | 一文读懂机器学习中的shapley值方法
作者:贾恩东本文约2000字,建议阅读9分钟本文为你介绍更公平分配利益权重的一种算法——Shapley值方法。本篇文章是数据派一文读懂系列的新年
-
2023-01-13 08:16:05
每日头条!立昂技术(300603.SZ):券商协助司法执行误操作公司实控人王刚账户
智通财经APP讯,立昂技术公告,公司于2023年1月12日收到协助司法执行的券商发出的《关于误操作立昂技术股份有限公司大股东王刚股份的情况说明
-
2023-01-12 21:07:24
动态:组图直击现场:福建省人大代表分组审议政府工作报告
各位人大代表纷纷踊跃发言。人民网刘卿摄各位人大代表纷纷踊跃发言。人民网刘卿摄各位人大代表纷纷踊跃发言。人民网刘卿摄人民网福州1月12日电
-
2023-01-12 16:35:18
天津、河北等七省(市)签订跨省流域横向生态保护补偿协议_全球新视野
【天津、河北等七省(市)签订跨省流域横向生态保护补偿协议】财政部网站消息,1月11日,天津市、河北省等七省(市)在全国流域横向生态保护补偿
-
2023-01-12 13:13:20
订单已超千架!
C919飞机完成航线验证飞行后,中国民航局将对验证结果进行审定和检查,确认东航具备安全运行C919飞机能力之后,颁发相应运营许可
-
2023-01-12 10:15:10
【环球快播报】销量不等于质量!日系车和德系车对撞,谁更安全?
不知不觉间,我们已经进入了汽车时代,在感受汽车带来便利的同时,生活节奏随着加快,对于习惯开车出行的人而言,每一次出行都离不开汽车,这
-
2023-01-12 09:04:45
世界看点:太阳纸业(002078)1月11日主力资金净买入1094.02万元
截至2023年1月11日收盘,太阳纸业(002078)报收于11 77元,上涨1 38%,换手率0 66%,成交量18 03万手,成交额2 12亿元。
-
2023-01-12 01:14:24
1月11日基金净值:中海能源策略混合最新净值1.0074,跌1.11%
1月11日,中海能源策略混合最新单位净值为1 0074元,累计净值为1 5554元,较前一交易日下跌1 11%。历史数据显示该基金近1个月上涨2 14%,近3个
-
2023-01-11 18:19:04
全球快报:2023南阳春游赏花好去处
2023南阳春游赏花好去处1、梅花赏花时间:2月下旬-3月初推荐地点:卧龙区谢庄乡塔子山、白河湿地公园、梅城公园寒梅傲雪,甚是美丽。梅花以她
-
2023-01-11 14:53:48
孚日股份:公司暂未考虑生产抗病毒口罩|全球视讯
每经AI快讯,有投资者在投资者互动平台提问:现在的口罩只能防护。贵公司也有口罩生产线,请问贵公司的抗病毒产品可以用于生产口罩吗?孚日股
-
2023-01-11 09:56:14
1月11日烟台中瑞氢氟酸价格暂稳|全球独家
1月11日,烟台中瑞化工有限公司主要产品有F113A、无水氟化氢、氢氟酸等氟化工产品,氢氟酸装置运行正常,出厂价格为11000-11500元 吨,下游按需采购为
-
2023-01-11 02:55:08
嗨袋借款逾期4个月多久会上征信
网贷逾期一般会上征信,有些借贷机构在用户逾期后一天后就会上报给征信机构,而有些借贷机构则是会在几天后上报给征信机构,因为有些借贷机构可
-
2023-01-10 19:20:41
统联精密: 国金证券股份有限公司关于深圳市泛海统联精密制造股份有限公司2023年度日常关联交易预计的核查意见
统联精密:国金证券股份有限公司关于深圳市泛海统联精密制造股份有限公司2023年度日常关联交易预计的核查意见
-
2023-01-10 15:48:46
每日精选:塔牌集团(002233)1月10日主力资金净卖出53.41万元
截至2023年1月10日收盘,塔牌集团(002233)报收于7 22元,下跌0 69%,换手率0 22%,成交量2 64万手,成交额1911 08万元。
-
2023-01-10 13:33:49
利通电子(603629)1月9日主力资金净卖出412.85万元
截至2023年1月9日收盘,利通电子(603629)报收于17 7元,上涨0 28%,换手率0 6%,成交量1 1万手,成交额1938 73万元。
-
2023-01-10 13:03:22
请问晚上加班有什么办法?
1、劳动法规定,晚上加班用人单位应支付150%的加班工资的。2、法律依据《劳动法》第四十四条有下列情形之一的,用人单位应当按照下列标准支付
-
2023-01-10 12:53:54
忻州市河曲县交通违章在网上怎么处理 当前速递
1、需要扣分的违章在网上无法缴纳的,能在网上缴纳的违章就是不用扣分的。2、罚款金额超过200元的,属一般程序,需违法行为人或车辆所有人或者
-
2023-01-10 12:18:47
翼龙贷网贷逾期29天延迟还款征信有什么影响-世界新消息
网贷逾期一般会上征信,有些借贷机构在用户逾期后一天后就会上报给征信机构,而有些借贷机构则是会在几天后上报给征信机构,因为有些借贷机构可
-
2023-01-10 12:18:48
环球短讯!京东白条逾期二个月会上征信吗
网贷逾期一般会上征信,有些借贷机构在用户逾期后一天后就会上报给征信机构,而有些借贷机构则是会在几天后上报给征信机构,因为有些借贷机构可
-
2023-01-09 17:37:40
春运首日 南安客运、动车共发送旅客770多人次:最新快讯
春运首日南安客运、动车共发送旅客770多人次
-
2023-01-09 17:45:46
勇士队记:勇士并不打算放弃怀斯曼:世界新要闻
勇士队记:勇士并不打算放弃怀斯曼,鲍勃,迈尔斯,勇士队记,美国篮球,关键时刻,斯蒂芬-库里,詹姆斯·怀斯曼
-
2023-01-09 17:31:29
贾玲给宋小宝出这题,宋小宝恐怕要得罪沈梦辰了
宋小宝身为喜剧演员,在赵本山的培养下逐渐的知名度变得非常的高。现在宋小宝不只在刘老根儿大舞台,工作。经常参加综艺节目,很多观众都非常
-
2023-01-09 14:23:31
苹果打算让iPhone15Pro更贵?然后iPhone15plus销量就好了?-世界热头条
苹果打算在iPhone15系列上改变思路,让iPhone15Pro更贵,这个确实是让iPhone15plus销量更高的一个方法。苹果想要iPhone15plus销量更好,所以想
-
2023-01-09 13:24:17
世界快看点丨有钱花逾期一年不还会影响征信吗
网贷逾期一般会上征信,有些借贷机构在用户逾期后一天后就会上报给征信机构,而有些借贷机构则是会在几天后上报给征信机构,因为有些借贷机构可
-
2023-01-09 10:59:03
东方熏道高铁冠名列车隆重首发,推动“中医养生”跑出中国速度!|天天信息
东方熏道高铁冠名列车隆重首发,推动“中医养生”跑出中国速度!2023年01月09日11:02中国网财经
-
2023-01-07 01:39:39
讯息:59岁李连杰一家现身尼泊尔拜佛,19岁小女儿打扮靓丽,显露好身材
嘿,这里是辣条近日李连杰的小女儿在社交平台晒出了一家人近况。19岁的她和姐姐、父亲、妈妈一家人在尼泊尔游玩拜佛。照片中阳光明媚,天空很
-
2023-01-06 23:08:20
CPDA视点:智慧政务改变生活_热推荐
智慧政务对于公众既熟悉又陌生,首先什么是智慧政务?智慧政务包含什么?身边的智慧政务。近年来,随着电子技术、信息技术
-
2023-01-06 20:56:07
今日热搜:(新春走基层)解决春运充电难题 江西高速服务区增建新能源汽车充电桩
江西高速服务区均使用一体式直流充电桩。据了解,江西高速服务区均使用一体式直流充电桩,这种充电桩不仅噪声小、易维护,能够适应各种严苛恶
-
2023-01-06 18:25:01
世界要闻:中来股份:高效电池项目一期首批4GW部分产线已实现量产
【中来股份:高效电池项目一期首批4GW部分产线已实现量产】中来股份(300393)1月5日晚间披露重要项目的投资进展公告,年产16GW高效单晶电池智能
-
2023-01-06 14:39:44
世界最新:2023张杰线上演唱会直播观看指南(时间+入口)
2023张杰线上演唱会直播观看指南直播时间:2023年1月7日20:00直播入口:点击进入拓展阅读:张杰(JasonZhang),1982年12月20日出生于