深度学习模型可解释性初探
1. 可解释性是什么 0x1：广义可解释性 广义上的可解释性指： 比如我们在调试 bug 的时候，需要通过变量审查和日志信息定位到问题出在哪里。 比如在科学研究中面临一个新问题的研究时，我们需要查阅一些资料来了解这个新问题的基本概念和研究现状，以获得对研究方向的正确认识 ...
原文：关于深度学习的可解释性
在这里学习的，在此简要做了些笔记。 壹 可解释性概述 . 可解释性是什么 人类对模型决策 预测结果的理解程度。 对于深度学习而言，可解释性面临两个问题： 为甚会得到该结果 过程 为甚结果应该是这个 结果 理想状态：通过溯因推理，计算出输出结果，可是实现较好的模型解释性。 衡量一个解释是否合理，需要考虑 可解释性：通过人类可以理解的方式描述系统的内部结构 和 完整性：通过精确的方式描述系统的各个操作 ...
2022-01-14 16:10 0 1106 推荐指数：
相关推荐
InterpretML 微软可解释性机器学习包
为实践者和研究者提供机器学习可解释性算法的开源 Python 软件包。InterpretML 能提供以下两种 ...
谈谈机器学习模型的可解释性
深度学习一直被认为是一个黑盒子，但是试图对模型的理解仍然是非常必要的。先从一个例子来说明解释神经网络的重要性：古代一个小镇上的一匹马能够做数学题，比如给它一个题目 2+3 ，它踏马蹄 5 下后就会停下，这匹马被当地称作神马汉斯。后来人们发现，汉斯其实并不会做数学题，它通过观察主人的反应来判断 ...
zz“深度高斯模型”可能为深度学习的可解释性提供概率形式的理论指导
【NIPS2017】“深度高斯模型”可能为深度学习的可解释性提供概率形式的理论指导？亚马逊机器学习专家最新报告 专知 【导读】在NIPS 2017上，亚马逊机器学习专家Neil Lawrence在12月4日在长滩现场进行了一场“基于高斯模型的深度概率模型”的演讲报告。这场报告Neil ...
神经网络可解释性、深度学习新方法， 2020 年有哪些势不可挡的研究趋势？
神经网络可解释性、深度学习新方法， 2020 年有哪些势不可挡的研究趋势？ 编辑：Sophia计算机视觉联盟 报道 | 公众号 CVLianMeng 转载于 ：AI科技评论 AI博士笔记系列推荐： 博士笔记 | 周志华《机器学习》手推笔记“神经网络” 作为 2019 年最后一场 ...
模型可解释性方法--lime
与模型无关的局部可解释性方法(LIME) 在机器学习模型事后局部可解释性研究中，一种代表性方法是由Marco Tulio Ribeiro等人提出的Local Interpretable Model-Agnostic Explanation(LIME)。 一般地，对于每一个输入实例，LIME ...
【笔记】机器学习 - 李宏毅 -- Explainable ML 可解释性机器学习
课程笔记 前言 两种可解释性： 局部解释：为什么这种图是猫？ 全局解释：猫是什么样子的？ 为什么需要可解释机器学习？（打开黑盒） 一般的提升效果的方法就是一顿暴调参数，可解释性可以帮助我们更好地提升模型性能。 其实人也是个黑盒（这个观点太6了）。 可解释机器学习的目标，不需要 ...