青年學術論壇第11期：基于信息瓶頸的深度學習可解釋性算法和應用 | 活動預告

「AI青年學術論壇」由上海人工智能實驗室主辦，本期活動由將門-TechBeat人工智能社區協辦。論壇將不定期邀請全球頂尖AI青年學者分享代表性工作。

北京時間11月3日（周三）晚8點，美國萊斯大學副教授、AIPOW聯合創始人兼首席科學家胡俠將帶來主題為《基于信息瓶頸的深度學習可解釋性算法和應用》的報告，和參會者討論一種新的訓練方法以使DNN的解釋規范化。

【活動詳情】：

分享主題：基于信息瓶頸的深度學習可解釋性算法和應用

分享嘉賓：美國萊斯大學副教授、AIPOW聯合創始人兼首席科學家 胡俠

活動時間：北京時間 11月3日 （周三）20:00-21:00

活動地點：

1. 騰訊會議：https://meeting.tencent.com/dm/BskZmo5BnBYW    會議 ID：906 475 770

2. B站：http://live.bilibili.com/22183939

【講座介紹】：

雖然深度神經網絡(DNN)在許多下游應用中表現卓越，但亦因其缺乏可解釋性而經常被視為“黑盒子”。正是由于DNN模型無法詳細地解釋預測是如何建立的，所以其透明度受到了限制，很難在使用者間建立信任。

在本次講座中，分享嘉賓將從建模和應用的角度提出一個生成DNN可解釋性的系統框架，旨在解決可解釋性機器學習中的兩大主要技術挑戰：

可靠性（faithfulness）和可理解性（understandability）。

具體來說，為了保證事后解釋的可靠性，嘉賓將介紹如何利用特性反演（feature inversion）和加性分解（additive decomposition）技術來解釋兩種經典的DNN體系結構：卷積神經網絡和遞歸神經網絡的預測。此外，為了開發出更易于理解的解釋型DNN模型，嘉賓將提出一種新的訓練方法使DNN的解釋規范化。

【嘉賓介紹】：

胡俠博士現任美國萊斯大學副教授，AIPOW聯合創始人兼首席科學家。長期從事數據挖掘、機器學習和人工智能研究，在包括ICLR、 NeurIPS、KDD、WWW、SIGIR等在內的相關頂級國際會議及期刊發表論文100余篇，他引超過1萬次。其主導開發的開源系統AutoKeras成為最常用的自動機器學習框架之一（超過8000次star及1000次fork）；其開發的NCF算法及系統（單篇論文他引2500余次）成為主流人工智能框架TensorFlow的官方推薦系統；其主導開發的異常檢測系統在通用、Trane、蘋果等公司的產品中得到廣泛應用。

他曾獲包括WWW、WSDM及INFORM等頂級會議最佳論文(提名)，美國國家科學基金會杰出青年獎、IEEE Atluri學者獎、亞利桑那州立大學校長獎等獎項，現擔任ACM TIST、Big Data副主編及DMKD編委，曾擔任信息檢索領域頂級國際會議WSDM 2020大會主席。

他的研究工作曾被包括MIT Technology Review、ACM TechNews、 New Scientist、Defense One在內的國際媒體廣泛報道。

個人主頁：https://cs.rice.edu/~xh37/index.html