微软研究院近日开源了能够解开AI黑盒子的工具包InterpretML，其可提供开发人员使用多种方式来实验AI模型和系统，并进一步解释模型。

　　据悉，InterpretML工具包含有许多可理解的模型和多种方法，能够针对黑盒子模型的个别预测行为产生解释。

　　微软指出，当AI系统影响人类的生活时，使人们了解AI的行为就相当重要，了解AI模型的行为，也能让数据科学家为模型纠错，而理解模型如何推论，则可以使设计模型的开发者传递模型如何运作的信息给终端使用者。

　　一般模型的准确度和可理解性无法兼顾，而微软研究院开发出的这套兼顾准确度和理解性的演算法Explainable Boosting Machine，能够通过现代机器学习技术，像是Bagging和Boosting分类方法，来改善传统的广义加成（Generalized Additive）模型。

　　【开发者可以用InterpretML工具包，比较不同的方法产生的解释，并选出一个最适合的方法，通过在不同的方法之间比对一致性，能够协助开发者了解该解释的可信度。】

调查区域：企业小调查(点击预览可查看效果)

本文属于原创文章，如若转载，请注明来源：http://net.zol.com.cn/716/7166451.html