當前位置:當前位置:首頁 > 沙坪壩區 > 官路正道 正文

官路正道

[沙坪壩區] 時間:2020-04-09 07:27:22 來源:河南省財政廳網 作者:李瑋 點擊:142次

原標題:中國工程院院士方濱興:內生安全問題可能成為人工智能“死穴”

  從自動駕駛到智能家居 ,近兩年,人工智能技術和應用發展迅速,科幻電影中曾經描繪的“人機共存”時代,似乎離人類越來越近。然而,人工智能足夠安全嗎?4月20日,在2019西湖論劍·網絡安全大會上 ,中國工程院院士倪光南、鄔江興、方濱興和楊小牛,表達了他們對人工智能潛在風險的思考和隱憂。

中國工程院院士共話網絡安全。

25年前的今年,中國全功能接入國際互聯網,就此拉開中國互聯網的發展序幕,全社會的經濟 、文化、生活方式迎來深刻變革 。

中國工程院院士鄔江興仍然記得當年的場景。他說,大家感到“歡新鼓舞”,各行各業都在倡導“互聯網+”。但在發展伊始,網絡安全問題沒有得到足夠重視,導致了現在的很多遺留問題。

2014年,中共中央總書記習近平在中央網絡安全和信息化領導小組第一次會議上強調 ,網絡安全和信息化是一體之兩翼、驅官路正道動之雙輪,必須統一謀劃、統一部署、統一推進、統一實施。做好網絡安全和信息化工作 ,要處理好安全和發展的關系,做到協調一致 、齊頭并進,以安全保發展、以發展促安全,努力建久安之勢、成長治之業。

鄔江興深以為然。但他也坦言,同步安全和發展,對于全人類而言都是挑戰。如今,人工智能應用正像互聯網一樣進入日常生活,各行各業須及早考慮人工智能的安全問題,否則就會重走當年的老路 ?!安还苁鞘裁磫栴}都會有副作用,必須在發展的初期來解決?!彼f。

中國工程院院士楊小牛,也有類似擔憂:“人工智能會不會又像互聯網一樣,剛開始不考慮它自身的安全,最后發現存在各種各樣的問題,面臨相當大的風險?”他認為,將來官路正道,如何讓算法更加安全、可靠,是一個突出問題。

中國工程院院士方濱興提出,人工智能的內生安全問題,可能成為其“死穴”。例如,一個被貼上幾張小廣告的停車標志牌,人看到標志牌會覺得毫無差別,但算法識別就會出現錯誤。

方濱興介紹,這樣的錯誤,與人工智能的內生原理有關。人工智能靠大量的數據和神經網絡學習,人能夠看到人工智能的處理結果,但神經網絡中還有很多人看不到的隱含層。因此,幾個小廣告,甚至是像素點的改變,都會導致人工智能處理錯誤 。

“現在要關注網絡安全的新挑戰”,中國工程院院士倪光南說 ,新技術帶來了許多傳統安全領域沒有的新問題、新現象,必須予以重視。以自動駕駛汽車為例,如果黑客通過網絡攻擊獲得了控制權 ,自動駕駛汽車就會變得非常危險。

采寫:南都記者馮群星 官路正道蔣琳

作者:馮群星 蔣琳

(責任編輯:徐佳瑩)

相關內容
精彩推薦
熱門點擊
友情鏈接
好好赚钱远离一切我不喜欢的人