醫生與AI，誰更需要誰？陶大程博士淺談AI與醫療
AI的倫理問題
作為一位AI科學家，陶大程博士對于技術的倫理問題非常關注。他認為需要盡快建立AI醫學應用的倫理管理規范和法律問責機制，以及對可能的倫理和法律的挑戰。目前來說，AI的倫理還是一個開放性話題，如何保證AI做出符合倫理道德的決策需要進一步的探索。
隨著技術的不斷增強，AI已經開始產生一些社會問題了。基于AI的無人駕駛車輛，上路的基本要求是能夠識別路牌。
中國，還有世界上不少國家都有貼小廣告的習慣。我們想象一下，把一個小廣告貼到路牌上，這樣一個簡單的改變就能夠攻擊無人駕駛系統。比如，在代表停止的路牌上貼上一個小廣告，無人駕駛系統就會把它誤判為百公里每小時，這是非常危險的。
另外，因為理論的不完善，AI也有很多的不穩定性。比如，AI在圖像識別的時候會把黑猩猩誤識別成人，這會引起種族的問題。還有AI的公平性和可解釋性，比如黑盒算法——我們并不清楚算法為什么做出某一個決定。這些都跟人工智能的倫理道德相關。
陶大程博士認為這不僅僅是研究AI的科學家和醫生的問題，還應該包括政府、社會學家等多方面的專業人士。大家共同探討如何建立在特定領域的AI倫理道德的管控，保證AI的實踐，不會產生倫理道德的問題，或者盡量避免產生這樣的問題，讓AI更好的為人類服務。
AI如何解決落地難的困境？
對于這個問題，陶大程博士認為需要從幾個方面來考慮。
首先，醫療AI企業需要和醫院、健康中心和保險公司建立多方面的共贏合作來探索醫療AI商業落地的幾種模式。最終，行業還是需要市場的力量來刺激AI的落地。
其次，政府和醫院需要建立起安全的數據開放和共享模式，同時也要保證用戶的隱私。只有行業共同努力才能降低醫療數據的獲取難度。在保證數據安全的基礎上建立標準數據庫，提升醫療數據的數量和質量，醫療AI企業才能夠去提升產品的可用性。
第三個方面則是在AI技術層面。我們需要去考慮設計有效的聯邦學習模型來應對目前構建大規模數據庫比較困難的局面。很多時候，數據共享非常困難，需要考慮是不是有其他的人工智能技術來解決這樣的問題。
聯邦學習能夠有效地保護用戶的隱私不受侵犯，能夠協助醫療AI企業訓練出有效、穩健其具有解釋性的模型。這樣的模型才會得到醫生的信任。
第四個方面則是審批監管部門。審批監管部門應該建立系統性的AI測試方案和驗收標準來推動醫療AI產品的安全認證。目前，CFDA將AI影像輔助診斷軟件列入風險較高的三類醫療器械。
陶大程院士認為盡管這意味著臨床實驗的控制非常嚴格，但從另外一方面而言對于保證AI+醫療產品的安全性和有效性是非常重要的。
寫在最后
在陶大程博士看來，即使很多傳統的、有著幾百年歷史的學科，如數學、物理和化學，還有很多懸而未決的基礎問題，作為一個僅有半個世紀歷史的新興學科——人工智能，更加需要我們不斷投入，奮勇直前。盡管今天的人工智能沒有取代人類、甚至還依然處在弱人工智的狀態，但是每一次AI的興起都為我們帶來了技術的革新，提升了我們的生產力、改善了我們的生活。
有了深度學習的支撐，今天的AI能夠做很多過去我們不敢想的事情。雖然今天的人工智能還只是小獅子辛巴，但是我們有理由相信，未來辛巴一定會成為森林之王，成為有效的使能技術賦能醫療健康以及各行各業。
陶大程簡介
悉尼大學工程學院教授、澳大利亞科學院院士、優必選悉尼大學人工智能中心主任、優必選AI首席科學家。
陶大程2015年榮獲澳大利亞尤利卡（Eureka）獎（該獎有著澳洲科學界的奧斯卡的美譽）；2016年當選歐洲科學院外籍院士（Academia Europaea）；2017年榮獲澳大利亞基金委桂冠教授；2018年，陶大程以其在人工智能領域，包括計算機視覺、機器學習及相關應用方面所做出的卓越貢獻，入選澳大利亞科學院院士；同年榮獲IEEE ICDM研究貢獻獎（該獎項是全球數據挖掘研究領域的最高獎項之一，專門表彰在這一領域擁有深遠影響力的學術成就與貢獻的個人或群體）。
陶大程的主要研究方向是表征學習，這是人工智能領域非常重要的研究方向之一。包括多視角學習、多標簽學習、多任務學習、遷移學習等。這些研究成果被廣泛應用于計算機視覺、圖像處理以及生物識別技術等領域。
文 ｜ 陳鵬
網站、公眾號等轉載請聯系授權
分享
請輸入評論內容...
請輸入評論/評論長度6~500個字
圖片新聞
