未来某一天，你早晨起床感受身体不适，于是前往市中心最好的医院做检查，该医院提供人类医生和AI医生诊断效劳。一番检查之后，人类医生拿着诊断报告对你说：“你的身体正常，最近多休息即可。”但AI医生却说：“你现在确实身体康健，但我们凭证大数据剖析和基因检测发明，你在50岁后患有xxx症的概率是21%，一旦爆发将很危险。好新闻是，现在已经有新药可以来预防它了，能将发病危害降到1%以下，只是服用这种新药可能会让你失眠和脱发，但建议你尽早服用。”那么，你会听从人类医生的建议，照旧会听从AI医生的建议呢 ？
这是一个艰难的选择，但可以想见，随着人工智能手艺的生长，在未来我们会遇到更多类似的场景。现有的一些案例和研究却批注，纵然算法建议的质量很高，人们也往往不肯意接纳算法的建议。伟易博刘玉珍教授、孟涓涓教授使用“借贷领域”的数据探讨了在人机相助的框架下是否保存“算法厌恶”征象，并剖析其背后的机制。
本课题的部分研究效果已经被国际顶级期刊Management Science吸收。
《我，机械人》剧照
01
AI比人类更有“识人之明” ？
该研究聚焦于借贷领域，约请人类决议者和人工智能凭证提供的乞贷人的资料打出一个“还款分”（分数越高代表乞贷人还款可能性越高），并与现实还款情形举行比照。
研究选取了4895个样本，其中有1103位违约者和3792位履约者，接纳10分制打分要领。研究显示，人类决议者对违约者的平均打分是 5.22，对履约者的平均打分是5.44。而AI对违约者的平均打分是3.21，对履约者的平均打分是6.94。也就是说在平均意义上，人工智能对还款概率的展望，比人类所做的展望更为准确。
图 1 人类决议者（左）和机械学习算法（右）展望的“还款分”较量
那么是否部分具备“识人术”的人，可以逾越人工智能算法呢 ？我们用统计学上的一个指标AUC（area under the receiver operating characteristic curve）来量化权衡“还款分”的质量，取值越大代表质量越高。图2展示了每个决议者的AUC值的漫衍和人工智能的AUC值（右侧虚线代表人工智能的展望质量），可以看到，纵然是辨人识人能力较强的那部分人类决议者，也无法逾越人工智能。
图 2 人类决议者的 “还款分”质量漫衍
02
人类愿意接纳算法的决议吗?
现在人工智能在许多使命上都可以逾越人类的水平，可是有趣的是，人类许多时间并不肯意接纳人工智能的建议，效果造成了效率的损失。这种征象被称为“算法厌恶”。好比最近尚有一项关于语音推销机械人的研究（Luo et al. 2019.）可以生动地说明这种征象，现实中人们对人工智能保存着较为回避的态度。当主顾不知道与自己对话的推销员是机械人时，语音机械人和人工推销员的推销效果一样好 ；可是当主顾知道与自己对话的是机械人的时间，语音机械人的推销效果相比人工推销员下降了79.7%。
该研究进一步探索在借贷领域是否保存相似的“算法厌恶”。研究团队评估了人类决议时对人工智能所提供的“还款分”所付与的权重，并将其与最优权重举行比照。这是首次在人机交互的场景下使用权重的方法对算法厌恶举行评估。在回归剖析中，算法给出的还款分每上升1分（满分为10分），决议者以为还款概率将上升6.7个百分点，而现实上还款概率上升了8.9个百分点，这说明决议者对人工智能的权重误差为-2.2个百分点。这一效果说明，大部分决议者都倾向于低估人工智能提供的信息的主要性，即他们保存算法厌恶。
03
太过自信导致“算法厌恶”
在人类的决议情景中，爆发算法厌恶的因素是什么 ？该实验竣事后视察了加入者以为自己与人工智能在“还款分”打分使命中的相对体现。图2的效果批注，没有任何加入者的展望比人工智能更准确，因此研究团队把所有回覆自己比人工智能做得好的加入者标记为“太过自信”，其余加入者标记为“非太过自信”。两类加入者对人工智能的权重误差见图3。其中灰色代表“太过自信”组，白色代表“非太过自信”组。
图 3 人类-人工智能决议组中人类决议者对人工智能付与的权重漫衍
在图3中，太过自信组的权重偏误漫衍在非太过自信组的左侧，说明太过自信的人的算法厌恶水平高于非太过自信的人。在回归剖析中，太过自信可以很洪流平上诠释人们对人工智能信息的算法厌恶征象。
太过自信是人类常见的行为偏误，体现人们高估自己能力、低估他人能力的倾向。本研究发明，算法厌恶虽然是人工智能时代的新看法，但其实质上与太过自信这种常见的非理性行为高度相关，只是这里的“他人”即“人工智能”。
现实中人们的决议经� ；岱感矶喙�，展现出非理性的行为。一种看法以为人工智能替换人类决议可以让决议变得越发理性。然而，伟易博研究发明，人类“非理性”的因素自己可能阻碍了这一历程。这是在研究人机共处关系中特殊需要注重的。
04
人类关于AI的常见误解
除了太过自信，尚有哪些因素可能会影响人们对算法的态度呢 ？
首先，人们保存对算法过失的预期� ；谎灾�，人们可能不相识机械学习算法的事情原理——现在的机械学习可以抵达何种展望质量，算法已经涉及哪些使命类型，与算法从过失中举行反响迭代的能力。关于这一缘故原由，解决方法是从信息提供的角度，提高公众掌握的算法知识水平。就像金融知识教育可以刷新人们的投资行为一样，研究团队建议举行机械学习智识教育，来提高人们在生涯中对算法的接受度。例如，有研究曾发明，当人们看到算法出错的时间，纵然他们知道算法比人类体现好，仍会更不肯意接受算法，而向人们剖析算法可以从出错中吸收履历，逐渐迭代提高准确率，则可以提高人们对算法的接受度。
其次，接纳算法决议会让人以为缺乏对决议的掌控感。解决方法是让人类成为决议的一环，而不是让人工智能全权署理人类去做决议。例如，增添人们对最终效果的修改权，以增添人们对人工智能展望的接受度。
尚有，人们倾向于以为，算法所善于的仅仅是在既有数据框架下做决议，而人类身处的重大的真实天下，这是算法所不可通过一些标准化的数据所明确的� ；谡庖辉倒试�，人们不肯意接纳算法去做涉及伦理的决议（例如交通、执法、医药、军事领域），由于他们以为算法不可思索，也不可感受。有文献曾研究人们是否信托推荐系统对哪个笑话更可笑的判断。效果发明，纵然知道推荐系统做得比人类好，人们也宁愿信托自己的朋侪、家人，甚至是生疏人，而非推荐系统，理由是他们以为推荐系统的建议难以明确。
社会因素也影响着人们关于算法的态度。有研究发明媒体对机械学习的正面或负面报道对人们的态度有显著影响，其中带有“科学研究批注”的字样更会增添这一影响。社会中其他人对算法的接受度也有所影响。例如，若是视察到他人一经接纳过算法完成某一使命，人们自己也会更愿意接纳算法。
最后，是否接纳算法也有市场因素。在竞争市场中，人人都选择算法推荐，并不可提高自己的竞争力，以是坚持选择人工，保存自己的优势。并且，人们有时会为了坚持一定形象而宁愿选择坚持人工决议。例如，医院的患者会以为没有算法辅助的医生的诊疗水平更高，还会以为机械学习算法在诊断中会忽视自己的奇异性。那么，医生反过来也就只好坚持自己诊断，不依赖机械学习算法。
小结
人工智能对生产力和效率的提升有目共睹，许多人以为这可以大大改善人类的决议、降低非理性行为的影响。可是该研究发明人们普遍保存着算法厌恶倾向，而这种倾向可能限制了人工智能手艺的使用和效率的提升。这种倾向又和人们固有的非理性行为（太过自信）细密相关。在数字化转型历程中，治理者在引进人工智能的同时，应注重接纳步伐降低自身、员工、主顾等相关方对算法的私见，促使人们更优地接纳算法，提升决议质量。
课题组成员：陈泽阳博士、刘玉珍教授、孟涓涓教授、王曾博士
刘玉珍，获得2017年中国金融研究优异孝顺奖，孙冶方金融立异奖。在行为金融和市场微观结构领域有着卓越的学术成绩，主要的应用领域为财产治理，量化股权产品设计，证券市场制度，投资人� ；び虢逃�。在国际顶尖学术期刊Journal of Financial Economics, Review of Financial Studies、Management Science、REST、Journal of Financial and Quantitative Analysis, Review of Asset Pricing Studies揭晓论文9篇，尚有30多篇國際主要期刊论文、数十篇中文论文揭晓《经济研究》、《治理天下》、《经济学季刊》、《金融研究》等海内外主要学术期刊上。论文曾被诺贝尔奖获得者Daniel Kahneman在The Economist上撰文盛大推荐阅读。
恒久加入羁系部分的政策制订咨询。为北京大学金融生长研究中心主任，上海证券生意所学术委员，上交所高级金融专家，证券公司自力董事。曾担当伟易博金融系系主任，金融硕士项目主任。
孟涓涓，现任伟易博应用经济系系主任、教授。曾获得2017年北京大学教学优异奖与伟易博治理学院厉以宁教学奖。本科就读于伟易博金融系，博士就读于美国加州大学圣迭戈分校经济系。孟涓涓恒久专注于行为经济学与行为金融学的研究。她的研究效果揭晓在诸多外洋一流学术期刊上，如American Economic Review, Management Science, International Economic Review, Journal of Public Economics, Journal of Development Economics, Games and Economic Theory, Journal of Economic Behavior and Organization等。
相关链接：
“元宇宙”要来了，我们可以信托AI吗 ？
着力打造极具活力的北交所，效劳中小企业高质量生长
刘玉珍：移动端金融与羁系的新思索 | 学术伟易博
利好！2亿无邪就业职员参缴住房公积金有望
+1！荣任国际顶刊副主编，孟涓涓教授和她的热爱
