【中國安防展覽網 時事聚焦】據湯森路透基金會網站2017年11月6日報道，英國宇宙學家霍金說，技術可以改變生活的方方面面，但警告說人工智能帶來了新的挑戰。他說，人工智能和機器人已經威脅到數百萬人的就業——但這場新的革命可以用來幫助社會并為世界謀福利，比如減輕貧困和疾病。 

致敬霍金：人工智能發展需要加強安全監管
 
　　報道稱，在里斯本舉行的2017年網絡峰會開幕當晚，霍金通過遠程連線的方式說：“人工智能的興起可能成為人類歷史上最糟糕的事情，也可能成為最美好的事情。”他說：“我們只需要意識到這些危險，找到它們，采取盡可能好的做法和管理手段，提前為其后果做好準備。”
 
　　“人工智能”無疑是近期科技圈最熱門的關鍵詞。隨著在深度學習等領域的一些關鍵性技術取得突破，人工智能技術在過去幾年中獲得了長足的發展，其應用已經深入到了生產生活的各個領域。但與其他許多科技行業不同，這一領域的研究不受正式安全法規或標準的約束，導致人們擔心人工智能最終可能脫離人類控制的軌道，成為負擔而不是利益。2月21日，一份由25名技術與公共政策研究員共同發布的報告指出，快速發展的人工智能(AI)被惡意利用的風險呈上升趨勢，一旦遭黑客攻擊，或釀成無人駕駛的車禍，商業無人機也可能變成有針對性的武器。
 
　　這并非危言聳聽，甚至已有實例。2017年，浙江警方破獲了一起利用人工智能犯罪、侵犯公民個人信息案。專業黑客用深度學習技術訓練機器，讓機器能夠自主操作，批量識別驗證碼。“很短時間就能識別上千上萬個驗證碼。”當時的辦案民警介紹。
 
　　人工智能下一階段發展的關鍵在于，究竟該如何避免其被惡意操作，從而讓其更好助力經濟發展、社會進步。這是業界和政策制定者共同關心的問題。
 
　　中國社科院文化法制研究中心研究員劉明說，技術帶來的問題，有時也可以用技術發展來解決。人工智能是一種工具，工具的發展也許不會從根本上改變行為的性質，但會改變行為的模式和行為后果的烈度。“如果意識到自己所在行業存在人工智能帶來的威脅，自身加強防范就很重要。”
 
　　全國人大代表、科大訊飛董事長劉慶峰建議：“目前已有互聯網安全保護，但對于數據安全的等級設置、數據安全的追責機制，包括對用戶個人隱私方面的保護，相關法律法規還不夠健全。人們希望在這個時代大數據能夠充分地開放，但是在涉及國計民生的敏感數據時，一定要設置嚴格的安全等級，一旦這些數據發生泄露，對整個社會將產生極其嚴重的后果，這對人工智能和大數據產業發展將是非常大的沖擊和毀滅，因此要有嚴格的體系保護。劉慶峰覺得這對未來大數據和人工智能發展意義重大。”
 
　　科技部副部長王志剛建議，要加強安全監管和評估，建立人工智能監管體系，促進人工智能行業和企業自律，切實加強對數據濫用、侵犯個人隱私、違背道德倫理等行為的管理；同時，加強法規政策研究，圍繞人工智能發展可能遇到的法律法規問題進行超前研究，針對自動駕駛、服務機器人等應用前景廣闊的領域，加快研究制定安全管理條例。
 
　　全國政協委員、貴州貴達律師事務所主任朱山朱山建議，首先，應啟動人工智能“算法”安全風險評估體系的研究工作，“算法”是否存在缺陷，決定了生產者及研發者是否承擔民事責任；其次，鑒于人工智能帶來的民事法律問題復雜，輔以強制保險制度具有必要性，及時、有效的化解相關的社會矛盾和糾紛；此外，啟動人工智能創造物知識產權立法研究工作，明確人工智能創造物的利益歸屬規則，從而對人工智能創造物予以必要的保護。
 
　　全國人大代表、重慶市總工會掛職副主席楊帆認為，隨著人工智能的發展，有些設備可能會對人身安全造成威脅，所以在人身安全的防御方面，要加以保護技術，國家層面上加快布局。楊帆表示，美國今年發布人工智能的法案，這是全球第一個人工智能的法案，歐盟今年將重點在人工智能方面進行立法，中國一定要立法先行。
 
　　結語：人工智能發展需要加強安全監管，但不能因噎廢食，為了保護所謂的“隱私”而放棄對技術可能性的探索。未來5-10年，依然會是人工智能的時代，在人工智能時代，切戒以犧牲安全為代價的粗放式增長，堅決走“邊發展，邊治理”的科學之路。要充分認識和評估每項“顛覆性創新”可能存在的漏洞或盲點并及時加以處置，盡可能降低人工智能發展中的風險。

（來源：中國安防展覽網）