IBMResearch发布了一个可解释的AI工具包

新时代也应该属于互联网时代，所以我的朋友们应该在我们的生活中看到了很多关于互联网的新闻，听到了很多关于互联网的信息。有哪些朋友关心互联网价值？今天，我想和大家分享一条关于互联网的知识。我希望你会喜欢它。

今天，IBM Research推出了AI解释360，这是一个开源集合，使用一系列技术来解释AI模型决策。

IBM在一年前发布了AI failure 360，用于检测和缓解人工智能模型中的偏差。

IBM研究员、负责AI的负责人Saska Mojsilo在电话采访中告诉Venture Beat，IBM正在分享其最新的工具包，以增加对人工智能的信任和验证，并帮助必须遵守法规的企业使用人工智能。

“这一点至关重要，因为我们知道，组织中的人不会使用或部署人工智能技术，除非他们真的相信自己的决策。此外，因为我们已经为世界上很大一部分地区创建了基础设施，这对我们来说非常重要——不是因为我们已经在内部部署了人工智能或我们可能在这个领域拥有的产品，而是因为创建这些能力非常重要，因为我们的客户和世界将利用它们。

Mojsilovic表示，该工具包也正在共享，因为该行业在创造值得信赖的人工智能方面进展“非常缓慢”。

人工智能解释360借鉴了IBM研究团队成员的算法和论文。材料包括“TED:教授人工智能解释其决策”，这是在AAAI/ACM人工智能、伦理和社会会议上接受并发表的论文，以及“用自我表达神经网络实现稳健的可解释性”，这是经常引用的，于2018年在neurips上接受并发表。

该工具包使用许多不同的方法来解释结果，例如比较解释，这是一种试图解释重要缺失信息的算法。

还为特定场景开发了算法，例如用于解释原型的Protodash，以及用于向最近拒绝贷款的消费者解释信用评分模型结果的算法，或者向需要解释AI模型决策以遵守法律的贷款官员解释信用评分模型结果的算法。

工具包中的八种算法都来自IBM Research，但未来还会添加更多来自更广泛的人工无线城市的算法。

Mojsilo说：“它不是一个可以移动针头的研究团队或组织；当我们团结起来一起做的时候，我们都会受益，这就是我们计划种植工具箱的原因。

　　免责声明：本文由用户上传，与本网站立场无关。财经信息仅供读者参考，并不构成投资建议。投资者据此操作，风险自担。 如有侵权请联系删除！