久久久91-久久久91精品国产一区二区-久久久91精品国产一区二区三区-久久久999国产精品-久久久999久久久精品

9月17日，隨著2018世界人工智能大會(huì)開幕，上海正式進(jìn)入“AI時(shí)間”。兩天來，來自國(guó)內(nèi)外AI領(lǐng)域的與會(huì)代表圍繞“人工智能賦能新時(shí)代”主題分享各自的見解，匯集成AI浪潮中的“全球智慧”，攜手叩開人工智能的大門。

一名工作人員在2018世界人工智能大會(huì)上演示與機(jī)器人打乒乓球。新華社發(fā)

人工智能沒有邊界

在人工智能概念誕生60余年后，新一代人工智能早已超越了當(dāng)初天馬行空的幻想，正在深刻改變?nèi)祟惖纳a(chǎn)生活方式，甚至改寫人類文明。

“當(dāng)我看到人工智能的時(shí)候，我看見的是美好的未來。”圖靈獎(jiǎng)獲得者、中國(guó)工程院外籍院士羅杰·瑞迪說，人工智能技術(shù)給處于社會(huì)“金字塔”底層的30億人賦能。比如，語音互動(dòng)的個(gè)人助手系統(tǒng)，能幫助世界上很多沒有讀寫能力的文盲、半文盲更好地與外界溝通。他預(yù)測(cè)，在未來5到10年內(nèi)，人工智能技術(shù)將打造出“守護(hù)天使”，替人類完成現(xiàn)今無法完成的任務(wù)。比如，及早發(fā)現(xiàn)可能影響人類安全的突發(fā)事件，并發(fā)出警告。到2020年，“守護(hù)天使”能完成超過80%的人類活動(dòng)，最終，效率會(huì)提高10倍。“人工智能不會(huì)征服世界，人工智能可以供每個(gè)人使用。”

上海交大學(xué)生在展示為視障人士研發(fā)的具有導(dǎo)盲功能的眼鏡控制系統(tǒng)。新華社發(fā)

“并不存在AI這個(gè)行業(yè)，只有‘AI+’這個(gè)行業(yè)。AI需要與傳統(tǒng)產(chǎn)業(yè)合作，這種關(guān)系是結(jié)合、賦能，而絕不是顛覆。AI的價(jià)值是幫助傳統(tǒng)產(chǎn)業(yè)提高生產(chǎn)效率，解放生產(chǎn)力。”商湯科技創(chuàng)始人、香港中文大學(xué)教授湯曉鷗提出“大愛（AI）無疆”概念。在他看來，人工智能與傳統(tǒng)產(chǎn)業(yè)沒有明確的邊界，人工智能的發(fā)展將實(shí)現(xiàn)賦能各大不同行業(yè)。

湯曉鷗坦言，我們需要全面了解不同的傳統(tǒng)行業(yè)，和各個(gè)企業(yè)建立合作共贏的關(guān)系，同時(shí)不斷提升自己，只有公司成長(zhǎng)到一定規(guī)模，才能和對(duì)手談判、合作。除了賦能百業(yè)，湯曉鷗還指出了“無疆”的另一層含義：人工智能的發(fā)展需要全世界的智慧，全球企業(yè)、機(jī)構(gòu)應(yīng)該加強(qiáng)合作，打通AI學(xué)術(shù)研究的國(guó)界。

“機(jī)器會(huì)比人類更加聰明，但機(jī)器不可能有價(jià)值觀、有情感。我們真正需要擔(dān)心的，不是機(jī)器智能會(huì)超越人類智慧，而是人類自身的智慧停止增長(zhǎng)。”阿里巴巴董事局主席馬云說，人工智能對(duì)我們的啟發(fā)在于，未來的制造將邁入新制造時(shí)代，那是制造業(yè)和服務(wù)業(yè)完美結(jié)合的時(shí)代。未來的制造業(yè)都是服務(wù)業(yè)，大部分將被人工智能取代，但背后的體驗(yàn)和服務(wù)卻是不能被取代的。

中國(guó)工程院院士、國(guó)家新一代人工智能戰(zhàn)略咨詢委員會(huì)組長(zhǎng)潘云鶴指出，當(dāng)前人工智能走向2.0時(shí)代，大數(shù)據(jù)智能、群體智能、跨媒體智能、人機(jī)協(xié)同智能、自主系統(tǒng)智能等五大領(lǐng)域?qū)⒂瓉砣掳l(fā)展。“以往的人工智能將機(jī)器人作為重要發(fā)展方向，可機(jī)器人的核心是人工智能，而不是外形是否像人。與其制造模擬人的機(jī)器人，不如為機(jī)械進(jìn)行智能化升級(jí)。”潘云鶴認(rèn)為，人工智能要發(fā)展的是自主智能系統(tǒng)，不是模擬人的行為，而是模擬人的智力。

攜手合作是大勢(shì)所趨

人工智能是一個(gè)新技術(shù)、新事物，但也應(yīng)當(dāng)是一種基本場(chǎng)景，甚至是一種思維方式。在這個(gè)關(guān)乎全人類的時(shí)代命題中，各方都在搶占人工智能的制高點(diǎn)。

“人工智能等創(chuàng)新技術(shù)所引領(lǐng)的數(shù)字化轉(zhuǎn)型正在全球掀起新一輪的產(chǎn)業(yè)革命，而中國(guó)已經(jīng)成為當(dāng)今世界最具創(chuàng)新活力的市場(chǎng)。”微軟全球執(zhí)行副總裁、微軟人工智能及微軟研究事業(yè)部負(fù)責(zé)人沈向洋說，面對(duì)數(shù)字化轉(zhuǎn)型帶來的發(fā)展機(jī)遇，上海發(fā)揮自身優(yōu)勢(shì)，制定了明確的人工智能發(fā)展規(guī)劃，為技術(shù)創(chuàng)新、人才培養(yǎng)創(chuàng)造了理想的發(fā)展環(huán)境和政策支持，可謂引人注目的人工智能創(chuàng)新的賦能者。

合作共贏是未來人工智能發(fā)展的主題。大會(huì)上，20個(gè)全球人工智能創(chuàng)新項(xiàng)目簽約落戶上海，均是多方合作項(xiàng)目。如徐匯區(qū)政府、微軟公司和儀電集團(tuán)合作簽署“微軟上海研究院暨微軟-儀電人工智能創(chuàng)新院”，長(zhǎng)寧區(qū)政府和科大訊飛聯(lián)合成立“科大訊飛（上海）人工智能及腦科學(xué)研究院”，楊浦區(qū)政府和百度公司合作簽署“百度（上海）創(chuàng)新中心”等，這些簽約項(xiàng)目遵循上海市AI“人字形”產(chǎn)業(yè)規(guī)劃布局，涉及10個(gè)區(qū)，覆蓋全市60%以上區(qū)域。

“上海市政府全力推進(jìn)智能上海行動(dòng)，為各方創(chuàng)造了巨大合作空間。人工智能是跨國(guó)、跨學(xué)科的科學(xué)探索工程，對(duì)任何一個(gè)企業(yè)、城市和國(guó)家來說，不能拒絕人工智能領(lǐng)域的奧林匹克，更不能閉門造車。”騰訊董事會(huì)主席兼首席執(zhí)行官馬化騰說，在人工智能領(lǐng)域即便有競(jìng)爭(zhēng)，也應(yīng)該通過“你追我趕”的互相激勵(lì)、協(xié)同創(chuàng)新，共同把人類的認(rèn)知極限推向“更快、更高、更強(qiáng)”，最終的目的是提升人類的生活品質(zhì)。

獨(dú)行快，眾行遠(yuǎn)。科大訊飛創(chuàng)始人、董事長(zhǎng)劉慶峰也表示，人工智能領(lǐng)域的合作非常重要，既要技術(shù)合作，也要法律、倫理等層面的合作。

“隨著近幾年AI技術(shù)爆發(fā)式的進(jìn)步，算法、算力和數(shù)據(jù)之間的良性循環(huán)，對(duì)產(chǎn)業(yè)升級(jí)和經(jīng)濟(jì)變革的影響越來越突出，并將在未來幾十年中為產(chǎn)業(yè)和經(jīng)濟(jì)發(fā)展提供新的動(dòng)能。”百度公司董事長(zhǎng)兼首席執(zhí)行官李彥宏認(rèn)為，對(duì)絕大多數(shù)企業(yè)來說，至關(guān)重要的還是如何在現(xiàn)在這個(gè)時(shí)代趨勢(shì)下，率先擁抱AI，盡快使自身AI化，贏在起跑線上，為未來提供發(fā)展的動(dòng)力。

校企聯(lián)盟培養(yǎng)高端人才

人工智能時(shí)代，高端人才的培養(yǎng)至關(guān)重要。在本次大會(huì)上，由美國(guó)麻省理工學(xué)院、新加坡南洋理工大學(xué)、清華大學(xué)、復(fù)旦大學(xué)等知名高校和科研機(jī)構(gòu)共同倡議的“全球高校人工智能學(xué)術(shù)聯(lián)盟”成立，將在學(xué)術(shù)研究、人才培養(yǎng)等領(lǐng)域攜手合作，為人工智能發(fā)展提供人才和智力支撐。

“以人工智能為代表的第四次產(chǎn)業(yè)革命影響巨大，而且這一次產(chǎn)業(yè)革命可能要有很長(zhǎng)的周期，不斷滲透到社會(huì)各方面，使得社會(huì)處于扁平狀態(tài)。”西安交通大學(xué)校長(zhǎng)王樹國(guó)提出，大學(xué)的優(yōu)勢(shì)在于基礎(chǔ)研究和人才培養(yǎng)，建議大學(xué)要主動(dòng)融入社會(huì)，開門辦學(xué)。要主動(dòng)和企業(yè)合作，開展校企聯(lián)合實(shí)驗(yàn)室，并讓學(xué)生參與其中。

對(duì)此，香港中文大學(xué)校長(zhǎng)段崇智深有感觸，他們和微軟等企業(yè)合作，建設(shè)了重點(diǎn)實(shí)驗(yàn)室，研發(fā)了一些人工智能技術(shù)。“要把在企業(yè)工作的人才引進(jìn)來做客座教授，刺激學(xué)生思維，同時(shí)也為學(xué)生提供了很好的實(shí)習(xí)平臺(tái)。”段崇智說。新加坡南洋理工大學(xué)副校長(zhǎng)林杉也表示，每年合作企業(yè)向?qū)W校提供幾十個(gè)項(xiàng)目實(shí)習(xí)機(jī)會(huì)，實(shí)現(xiàn)了產(chǎn)學(xué)研的無縫對(duì)接。

作為培養(yǎng)人工智能人才的重鎮(zhèn)，多所高校謀劃和布局了人工智能學(xué)科建設(shè)。“人工智能成為第四次產(chǎn)業(yè)革命的驅(qū)動(dòng)力，第五次產(chǎn)業(yè)革命的‘種子’又會(huì)在哪里，這是需要大學(xué)關(guān)注的。”中國(guó)工程院院士、上海交通大學(xué)校長(zhǎng)林忠欽表示，以高校學(xué)術(shù)聯(lián)盟的形式共同探討人工智能的當(dāng)下與未來，具有重要的戰(zhàn)略眼光與現(xiàn)實(shí)意義。

復(fù)旦大學(xué)校長(zhǎng)許寧生認(rèn)為，人工智能的推進(jìn)不僅涉及科技，也關(guān)系到倫理、人文等社會(huì)科學(xué)，學(xué)校正在布局人工智能多學(xué)科教育。學(xué)校提出“以類腦智能引領(lǐng)人工智能”，將在全球范圍內(nèi)展開相關(guān)合作。

“對(duì)大學(xué)來說，要針對(duì)人工智能的兩個(gè)問題提前布局。”中國(guó)科學(xué)技術(shù)大學(xué)常務(wù)副校長(zhǎng)潘建偉認(rèn)為，第一是降低能耗，第二是計(jì)算能力，量子力學(xué)奠定了現(xiàn)代信息技術(shù)的基礎(chǔ)，中科大正在構(gòu)建國(guó)家實(shí)驗(yàn)室，希望從量子計(jì)算著手為人工智能做好未來硬件的準(zhǔn)備。

上海科技大學(xué)副校長(zhǎng)印杰建議，未來哪些崗位會(huì)被替代，哪些不會(huì)被替代，這在培養(yǎng)人才時(shí)必須考慮進(jìn)去。此外，人們的感情溝通是難以被機(jī)器替代的，加強(qiáng)道德和倫理教育至關(guān)重要。

“我們會(huì)進(jìn)行競(jìng)爭(zhēng)，但不會(huì)關(guān)上大門，不會(huì)閉門造車。”美國(guó)麻省理工學(xué)院榮譽(yù)校長(zhǎng)埃里克·格里姆森建議，在大學(xué)之間以及大學(xué)與企業(yè)之間交換學(xué)生，不同的大學(xué)可以共享數(shù)據(jù)，創(chuàng)造開源的互惠性平臺(tái)，把一個(gè)開源的算法放在一個(gè)公共的地方，就能創(chuàng)造出更多的算法，從而實(shí)現(xiàn)多方共享共贏。

（光明日?qǐng)?bào)上海9月18日電）

《光明日?qǐng)?bào)》（ 2018年09月19日 12版）返回光明網(wǎng)首頁

AI+教育，一個(gè)需要關(guān)注的德育場(chǎng)

2018-09-19 03:45　來源：光明網(wǎng)-《光明日?qǐng)?bào)》

作者：張竹林（上海市奉賢區(qū)教育學(xué)院副院長(zhǎng)）

人工智能正全面賦能各行各業(yè)，教育領(lǐng)域和教育人更應(yīng)以時(shí)不我待的態(tài)度迎“風(fēng)”而去，讓人工智能在教育領(lǐng)域落地生根。AI+教育，是教育領(lǐng)域又一個(gè)需要關(guān)注的“德育場(chǎng)”。

首先，我們要深刻理解這場(chǎng)新技術(shù)變革盛宴的能量所在，自覺學(xué)習(xí)和傳播新技術(shù)新思想，將其轉(zhuǎn)化為學(xué)校德育思想高地的重要內(nèi)容。作為引領(lǐng)未來的戰(zhàn)略性技術(shù)，人工智能正成為新一輪產(chǎn)業(yè)變革的核心驅(qū)動(dòng)力。對(duì)于促進(jìn)人和社會(huì)發(fā)展基礎(chǔ)性、先導(dǎo)性的教育領(lǐng)域，德育工作的本質(zhì)就是一項(xiàng)賦能的工作，是將深厚的文化傳統(tǒng)和時(shí)代的思想精華傳遞給受教育者，這種賦能是在引領(lǐng)人的價(jià)值導(dǎo)向和精神追求。盡管一個(gè)是技術(shù)領(lǐng)域，致力于改變生產(chǎn)生活方式；一個(gè)是精神領(lǐng)域，專注對(duì)人的情感和精神世界引導(dǎo)，但兩者本質(zhì)是相通的。這就需要教育人尤其是德育工作者，主動(dòng)學(xué)習(xí)，自覺掌握和運(yùn)用AI理念和方法。同時(shí)，深入了解青少年群體對(duì)AI的敏感和掌握程度，找到共同語言，建立有效的德育話語體系，這是做好新時(shí)代學(xué)校德育的前提和基礎(chǔ)。

其次，從教育教學(xué)范式和流程鍛造上早著手準(zhǔn)備，厚植學(xué)校德育內(nèi)容。任何一種新思維新技術(shù)都要影響甚至主導(dǎo)教育教學(xué)思想的變革。隨著AI的普及應(yīng)用，對(duì)于學(xué)校教育而言，教的工具、學(xué)的工具、課的結(jié)構(gòu)等一定會(huì)發(fā)生變革。我們要深度思考，AI+教育如何影響青少年學(xué)生的思想和價(jià)值觀？如何重構(gòu)我們的教學(xué)方式？這些教育教學(xué)要素的變革，帶來的是參與的主體“人”的變革。我們要從教學(xué)思想和學(xué)習(xí)思想進(jìn)行主動(dòng)變革，教育和引導(dǎo)學(xué)生不僅掌握“關(guān)于世界的知識(shí)”，更要真正掌握“進(jìn)入世界的知識(shí)”。

最后，因地制宜讓“AI+教育”資源變?yōu)榈掠Y源，實(shí)現(xiàn)學(xué)校德育途徑和方式的變革運(yùn)用。要讓學(xué)生不光了解AI，還要知道人類的科技發(fā)展歷程，了解中國(guó)科技的發(fā)展軌跡，也要清醒地看到當(dāng)下中國(guó)科技發(fā)展與世界科技發(fā)達(dá)國(guó)家的差距，在自信中激發(fā)動(dòng)力。2018世界人工智能大會(huì)會(huì)址——上海徐匯濱江西岸地區(qū)本身就有深刻的歷史人文教育意義。1950年，“人工智能之父”阿蘭·圖靈向全人類首次公開提出“人工智能”概念，巧合的是，同一年上海飛機(jī)制造廠在徐匯西岸成立。該廠誕生了新中國(guó)首架水上飛機(jī)“飛龍一號(hào)”。如今，徐匯西岸吸引了眾多互聯(lián)網(wǎng)巨頭企業(yè)入駐，正在布局和打造AI+交通、AI+教育、AI＋健康等多領(lǐng)域應(yīng)用。

人的情感、精神世界的豐富和高尚，是具體的、鮮活的。樹立科學(xué)“三觀”、健全人格養(yǎng)成，是技術(shù)本身無法完成的，這是德育工作的重要內(nèi)容和責(zé)任使命所在，也是學(xué)校德育的立身之本。

《光明日?qǐng)?bào)》（ 2018年09月19日 12版）返回光明網(wǎng)首頁

人工智能安全：挑戰(zhàn)與機(jī)遇

2018-09-19 04:00　來源：光明網(wǎng)-《光明日?qǐng)?bào)》

【環(huán)球科技】  

作者：魯傳穎（上海國(guó)際問題研究院副研究員）

人工智能技術(shù)和應(yīng)用飛速發(fā)展，推動(dòng)經(jīng)濟(jì)社會(huì)創(chuàng)新發(fā)展的同時(shí)，也在重塑人類安全的未來。作為2018世界人工智能大會(huì)的重要組成部分，題為“人工智能安全：挑戰(zhàn)與機(jī)遇”的安全高端對(duì)話9月18日在上海國(guó)際會(huì)議中心舉辦。此次對(duì)話活動(dòng)由上海賽博網(wǎng)絡(luò)安全產(chǎn)業(yè)創(chuàng)新研究院、中國(guó)信息通信研究院安全研究所聯(lián)合承辦，上海社會(huì)科學(xué)院互聯(lián)網(wǎng)研究中心等協(xié)辦。

對(duì)話圍繞倫理問題、國(guó)家安全、網(wǎng)絡(luò)安全三大主題展開，研判人工智能時(shí)代的安全挑戰(zhàn)，探索人工智能安全發(fā)展的創(chuàng)新之道，促進(jìn)人工智能產(chǎn)業(yè)的健康發(fā)展，確保人工智能發(fā)展造福人類未來。

本版邀請(qǐng)參與對(duì)話的兩位嘉賓撰文，為讀者深度解讀人工智能與人類自身發(fā)展的現(xiàn)實(shí)與未來。

光明圖片/視覺中國(guó)

一、人工智能技術(shù)迅猛發(fā)展

軍事歷來是推動(dòng)技術(shù)變革的主要力量之一，特別是在一些戰(zhàn)略性領(lǐng)域，新技術(shù)與軍事變革之間的互動(dòng)，不僅推動(dòng)了技術(shù)的發(fā)展，也影響了軍事變革。算法上的突破、數(shù)據(jù)數(shù)量和質(zhì)量的不斷提升以及計(jì)算能力的增長(zhǎng)為人工智能在軍事領(lǐng)域的應(yīng)用提供了無限的想象空間。

從現(xiàn)有的技術(shù)條件來看，人工智能至少可以在機(jī)器人、戰(zhàn)場(chǎng)環(huán)境的分析和目標(biāo)識(shí)別、后勤組織計(jì)劃、情報(bào)分析、信息管理、信息行動(dòng)等方面在一定程度上提升或改變?cè)袑?duì)軍事的認(rèn)知。

人工智能的發(fā)展可以減少軍人的傷亡程度、增強(qiáng)指揮決策、控制戰(zhàn)爭(zhēng)的殺傷范圍方面改變未來的戰(zhàn)爭(zhēng)形態(tài)。

光明圖片/視覺中國(guó)

第一，當(dāng)越來越多的無人駕駛飛機(jī)、坦克、汽車，以及自主決策武器開始走向戰(zhàn)場(chǎng)，軍人直接暴露在戰(zhàn)場(chǎng)殺傷環(huán)境將會(huì)減少，軍人的傷亡率較傳統(tǒng)的戰(zhàn)爭(zhēng)也會(huì)下降。這會(huì)使得跟傳統(tǒng)軍人形象迥異，一群戴著眼鏡，像在網(wǎng)吧中玩著網(wǎng)絡(luò)游戲的新的職業(yè)軍人和軍事單元出現(xiàn)在戰(zhàn)斗序列中。

第二，人工智能在輔助戰(zhàn)場(chǎng)決策可以發(fā)揮重要作用，包括制定軍事計(jì)劃、后勤組織保障、戰(zhàn)場(chǎng)環(huán)境實(shí)時(shí)信息獲取、分析、目標(biāo)的圖像識(shí)別等方面可以大幅度提高戰(zhàn)場(chǎng)的指揮決策能力。

第三，人工智能時(shí)代戰(zhàn)爭(zhēng)將更多是特種戰(zhàn)爭(zhēng)，而非全方位的戰(zhàn)爭(zhēng)。人工智能在網(wǎng)絡(luò)戰(zhàn)、信息戰(zhàn)，以及類似的“斬首行動(dòng)”“定點(diǎn)清除”等特種作戰(zhàn)領(lǐng)域?qū)?huì)發(fā)揮重要的作用。這從很大程度上而言這也會(huì)改變戰(zhàn)場(chǎng)的形態(tài)，人工智能領(lǐng)域的特種作戰(zhàn)將會(huì)先與大規(guī)模沖突的爆發(fā)，改變?nèi)藗儌鹘y(tǒng)上認(rèn)為，戰(zhàn)爭(zhēng)就是工業(yè)化時(shí)代的大規(guī)模飛機(jī)、坦克、軍艦等武器之間直接對(duì)抗的印象。

光明圖片/視覺中國(guó)

鑒于人工智能在軍事領(lǐng)域的重要作用，各國(guó)的軍隊(duì)和政府都高度重視從國(guó)防角度來看待人工智能，越來越多的國(guó)家開始發(fā)展和使用人工智能武器，制定人工智能國(guó)防領(lǐng)域的發(fā)展戰(zhàn)略。

2016年2月，時(shí)任美國(guó)情報(bào)總監(jiān)詹姆斯·克萊伯在參議院武裝力量委員會(huì)的聽證會(huì)上認(rèn)為，人工智能系統(tǒng)的欺騙性和破壞性難以預(yù)測(cè)和理解，將會(huì)對(duì)國(guó)家安全和關(guān)鍵信息基礎(chǔ)設(shè)施帶來巨大風(fēng)險(xiǎn)。特朗普政府開始加大對(duì)人工智能國(guó)家戰(zhàn)略的制定和資源的投入，美國(guó)國(guó)防部門的國(guó)防創(chuàng)新咨詢委員會(huì)和國(guó)防科學(xué)委員會(huì)不遺余力地推動(dòng)美國(guó)軍方向人工智能轉(zhuǎn)型，并且成立了國(guó)防部聯(lián)合人工智能中心；近期，美國(guó)國(guó)防高級(jí)研究計(jì)劃局（DARPA）作為美軍重要的技術(shù)創(chuàng)新部門宣布對(duì)人工智能的投資增加20億美元，用以布局下一代人工智能。

俄羅斯也高度重視人工智能在國(guó)防領(lǐng)域的發(fā)展。俄羅斯國(guó)防力量積極的開發(fā)人工智能武器，包括超級(jí)坦克、無人蜂群、無人導(dǎo)航水下航行器等，根據(jù)媒體報(bào)道，俄羅斯已經(jīng)開始在敘利亞戰(zhàn)場(chǎng)中使用基于人工智能的武器系統(tǒng)。在美俄之外，包括中國(guó)、英國(guó)、澳大利亞、韓國(guó)、印度等越來越多的國(guó)家開始重視人工智能在軍事領(lǐng)域的發(fā)展和應(yīng)用。

二、安全領(lǐng)域挑戰(zhàn)不容小覷

人工智能擁有巨大潛能，但事情往往具有兩面性，為了獲取戰(zhàn)略競(jìng)爭(zhēng)優(yōu)勢(shì)，各國(guó)人工智能在國(guó)防領(lǐng)域的競(jìng)爭(zhēng)，也帶來了安全方面的風(fēng)險(xiǎn)——包括為了獲取競(jìng)爭(zhēng)優(yōu)勢(shì)而忽視人工智能的倫理問題、人工智能技術(shù)擴(kuò)散，以及過度強(qiáng)調(diào)人工智能的國(guó)家安全屬性對(duì)正常的技術(shù)發(fā)展和商業(yè)所帶來的威脅挑戰(zhàn)。

首先，致命性自主武器的倫理問題。致命性系統(tǒng)是一種直接或間接地對(duì)人類造成傷害或死亡的系統(tǒng)。現(xiàn)有系統(tǒng)如裝備了武器的無人機(jī)，就在某種程度上將自動(dòng)化與致命性結(jié)合起來，但是這一系統(tǒng)需要人類的參與。完全自主的致命性自主武器系統(tǒng)還需要能夠識(shí)別和選擇目標(biāo)，確定擬對(duì)目標(biāo)施加的武力級(jí)別，并在特定范圍的時(shí)間和空間內(nèi)對(duì)目標(biāo)實(shí)施規(guī)定的武力。半自主、全自主系統(tǒng)包括殺傷人員地雷、反艦雷達(dá)、各種精確制導(dǎo)導(dǎo)彈、魚雷、巡航導(dǎo)彈、反衛(wèi)星武器、空中和海上無人機(jī)、無人機(jī)群以及網(wǎng)絡(luò)蠕蟲。從不含情報(bào)的地雷到精確制導(dǎo)導(dǎo)彈以及依據(jù)地形的巡航導(dǎo)彈，這些系統(tǒng)中的情報(bào)數(shù)量差異巨大。

國(guó)際社會(huì)存在著很大的反對(duì)發(fā)展致命性自主武器的聲音。如此眾多的自主武器帶來的問題是機(jī)器是否有權(quán)力去自主決定殺傷目標(biāo)，以及由于算法黑箱或者自主武器失控而導(dǎo)致的誤殺和誤傷成為致命性自主武器發(fā)展必須要面臨的倫理問題。雖然戰(zhàn)爭(zhēng)和傷亡是需要極力去避免的，但是由機(jī)器來決定傷亡則更加難以接受。不僅如此，人工智能的應(yīng)用會(huì)在一定程度上降低戰(zhàn)爭(zhēng)的門檻，這會(huì)鼓勵(lì)減少自我約束，采取進(jìn)攻性的行動(dòng)來達(dá)到相應(yīng)的目的，但同時(shí)也會(huì)對(duì)國(guó)際安全形成新的不穩(wěn)定因素。

其次，作為人工智能發(fā)展核心的算法和數(shù)據(jù)都存在著潛在的安全問題，這會(huì)導(dǎo)致人工智能決策的風(fēng)險(xiǎn)。從編程的角度來看，任何的代碼都是由人編寫，因此無法確保程序完全安全、可靠、可控、可信。從數(shù)據(jù)角度來看，人工智能依賴大數(shù)據(jù)，同時(shí)數(shù)據(jù)的質(zhì)量也會(huì)影響算法的判斷。軍事數(shù)據(jù)質(zhì)量獲取、加工、存儲(chǔ)和使用等環(huán)節(jié)都存在著一定的數(shù)據(jù)質(zhì)量和安全風(fēng)險(xiǎn)，從而增加了軍事領(lǐng)域使用人工智能的安全風(fēng)險(xiǎn)。

再次，人工智能技術(shù)擴(kuò)散給全球安全帶來的威脅。伴隨著人工智能武器的開發(fā)，國(guó)際社會(huì)面臨的另一大難題就是反擴(kuò)散問題，恐怖主義組織以及不負(fù)責(zé)任的國(guó)家獲取人工智能武器，并威脅國(guó)際安全和平。人工智能從某種意義上而言，也是一種程序和軟件，因此，它面臨的擴(kuò)散風(fēng)險(xiǎn)要遠(yuǎn)遠(yuǎn)大于常規(guī)武器。類似于美國(guó)國(guó)家安全局的網(wǎng)絡(luò)武器庫(kù)被黑客攻擊，并且在暗網(wǎng)交易，最后被黑客開發(fā)為勒索病毒的案例，也有可能在人工智能武器領(lǐng)域重現(xiàn)。

最后，人工智能的軍備競(jìng)賽會(huì)對(duì)技術(shù)邏輯和商業(yè)邏輯產(chǎn)生破壞。人工智能具有軍民兩用性質(zhì)，其發(fā)展最初的目的是為了發(fā)展經(jīng)濟(jì)，增加社會(huì)福利。過度的強(qiáng)調(diào)軍事用途會(huì)對(duì)人工智能的全球研發(fā)體系和產(chǎn)業(yè)鏈造成嚴(yán)重威脅。近期，美國(guó)政府對(duì)《外國(guó)投資審查法案》進(jìn)行修訂，其中重點(diǎn)就是要阻止其他國(guó)家對(duì)美國(guó)人工智能初創(chuàng)企業(yè)的并購(gòu)。法國(guó)政府也采取了相應(yīng)做法提高外國(guó)企業(yè)對(duì)法國(guó)人工智能技術(shù)、人才的并購(gòu)門檻。再加上，出口管制和人才交流限制。人工智能技術(shù)尚未發(fā)展成熟，各種鴻溝已經(jīng)在各國(guó)之間開始構(gòu)筑，會(huì)嚴(yán)重影響正常的技術(shù)研發(fā)，并且破壞全球化的商業(yè)邏輯。

三、治理機(jī)制構(gòu)建刻不容緩

人工智能在軍事領(lǐng)域的發(fā)展和應(yīng)用已經(jīng)成為很多國(guó)家的國(guó)家戰(zhàn)略，相應(yīng)的治理工作應(yīng)當(dāng)在現(xiàn)有的國(guó)際安全架構(gòu)開展。今年9月在日內(nèi)瓦召開的聯(lián)合國(guó)常規(guī)武器公約的討論中，各方并未就制定禁止人工智能驅(qū)動(dòng)的致命性完全自主武器的條約達(dá)成共識(shí)。全球約有共26個(gè)國(guó)家支持全面禁止人工智能武器，而絕大多數(shù)國(guó)家還在觀望。在規(guī)則不確定和大國(guó)戰(zhàn)略競(jìng)爭(zhēng)的背景下，人工智能在軍事領(lǐng)域發(fā)展面臨的風(fēng)險(xiǎn)和威脅在不斷增加。加強(qiáng)人工智能的國(guó)際治理工作，降低軍備競(jìng)賽風(fēng)險(xiǎn)則是當(dāng)務(wù)之急。

經(jīng)過2014年和2015年的兩次非正式會(huì)議后，在2016年12月16日關(guān)于特定常規(guī)武器公約的聯(lián)合國(guó)會(huì)議上成立了致命性自主武器系統(tǒng)（LAWS）政府專家組（GGE）。該小組的任務(wù)是研究致命性自主武器領(lǐng)域的新興技術(shù)，評(píng)估其對(duì)國(guó)際和平與安全的影響，并為其國(guó)際治理提出建議。

人工智能引發(fā)的安全問題是專家組的一大重要分歧，技術(shù)強(qiáng)國(guó)與弱國(guó)之間存在截然不同的觀點(diǎn)。技術(shù)弱國(guó)認(rèn)為應(yīng)當(dāng)完全禁止致命性自主武器的開發(fā)使用，技術(shù)大國(guó)則持相反意見，認(rèn)為開發(fā)致命性自主武器可以降低人員損傷，有利于打擊恐怖主義和維護(hù)國(guó)家安全，并且很多系統(tǒng)已經(jīng)在戰(zhàn)場(chǎng)上進(jìn)入實(shí)戰(zhàn)。

軍事是推動(dòng)技術(shù)進(jìn)步的重要因素，互聯(lián)網(wǎng)就是由美國(guó)軍方所發(fā)明，人工智能的技術(shù)發(fā)展背后也有軍事因素的強(qiáng)力推動(dòng)。但是，人工智能的科技競(jìng)賽也非技術(shù)之福，特別是致命性自主武器的擴(kuò)散會(huì)造成更為嚴(yán)重的后果。因此，從聯(lián)合國(guó)層面制定相應(yīng)的規(guī)范，并且促成大國(guó)之間在發(fā)展致命性自主武器上達(dá)成一定的軍控條約是當(dāng)務(wù)之急。

聯(lián)合國(guó)政府專家組應(yīng)制定致命性自主武器系統(tǒng)和人工智能軍事應(yīng)用的目標(biāo)。其中，最重要的一個(gè)目標(biāo)是制定相應(yīng)的國(guó)際法，在國(guó)際法不明確的情況下，各國(guó)應(yīng)克制在軍事領(lǐng)域使用人工智能武器。聯(lián)合國(guó)政府專家組也應(yīng)考慮對(duì)國(guó)際法此前未曾預(yù)見的情況追加法律限制，并以道德或倫理為由盡量減少對(duì)人和平民的傷害。更進(jìn)一步的目標(biāo)包括管理以下情況的操作風(fēng)險(xiǎn)，包括降低使用武力門檻、意外導(dǎo)致不應(yīng)有的傷害、造成意外的升級(jí)螺旋式增長(zhǎng)以及產(chǎn)生軍備競(jìng)賽和擴(kuò)散。

當(dāng)然，從聯(lián)合國(guó)角度來達(dá)成一項(xiàng)談判可能需要十年甚至更長(zhǎng)的時(shí)間，鑒于越來越多的風(fēng)險(xiǎn)，大國(guó)之間應(yīng)當(dāng)及早就人工智能在軍事領(lǐng)域應(yīng)用可能帶來的潛在風(fēng)險(xiǎn)開展對(duì)話，及早啟動(dòng)相應(yīng)的軍控進(jìn)程。短期內(nèi)促成技術(shù)強(qiáng)國(guó)在謀求戰(zhàn)略優(yōu)勢(shì)和國(guó)際安全體系穩(wěn)定之間的妥協(xié)。

各國(guó)政府在制定人工智能在軍事領(lǐng)域的戰(zhàn)略時(shí)，還應(yīng)當(dāng)高度重視人工智能的治理工作。比如，無論是半自主和全自主的武器系統(tǒng)的設(shè)計(jì)，應(yīng)允許指揮官和作戰(zhàn)人員在使用武力方面作出適當(dāng)?shù)娜藶榕袛唷楸ＷC這一要求的實(shí)現(xiàn)，需要嚴(yán)格的設(shè)計(jì)、對(duì)設(shè)計(jì)的測(cè)試和評(píng)估、操作驗(yàn)證和測(cè)試，解決系統(tǒng)錯(cuò)誤和故障的安全工程以及避免人為錯(cuò)誤的認(rèn)知工程。

在決定是否使用人工智能武器時(shí)，應(yīng)當(dāng)制定明確的規(guī)范和流程，避免造成不可預(yù)測(cè)的后果。同時(shí)，還應(yīng)當(dāng)加強(qiáng)對(duì)人工智能武器的安全性，避免安全泄露，或者是隨意轉(zhuǎn)讓相關(guān)技術(shù)。無論是無意或者有意地?cái)U(kuò)散都會(huì)增加軍備競(jìng)賽的風(fēng)險(xiǎn)，威脅國(guó)際安全體系。

《光明日?qǐng)?bào)》（ 2018年09月19日 14版）

人工智能將是這個(gè)時(shí)代最偉大的魔法師

2018-09-19 03:45　來源：光明網(wǎng)-《光明日?qǐng)?bào)》

人工智能將是這個(gè)時(shí)代最偉大的魔法師

——2018世界人工智能大會(huì)分論壇側(cè)記

光明日?qǐng)?bào)記者 嚴(yán)圣禾 周仕興 曹繼軍 顏維琦

人工智能，這一概念有著豐富的內(nèi)涵和廣泛的外延，不僅涉及眾多科學(xué)門類，還與法律、安全、就業(yè)、道德倫理和政府治理等領(lǐng)域密切相關(guān)。在上海召開的世界人工智能大會(huì)，除了主論壇，還有約30個(gè)主題論壇在浦江兩岸同步舉行。中外專家學(xué)者和業(yè)界精英深入交流、凝聚共識(shí)，共同為大會(huì)貢獻(xiàn)豐碩的成果。

腦科學(xué)和人工智能執(zhí)手共進(jìn)

“深度學(xué)習(xí)和神經(jīng)網(wǎng)絡(luò)的出現(xiàn)，對(duì)于人工智能技術(shù)的發(fā)展產(chǎn)生了重大的影響，也為人工智能帶來了新的希望，所以我們需要盡可能了解大腦的工作機(jī)制。由計(jì)算機(jī)所構(gòu)筑的神經(jīng)網(wǎng)絡(luò)和由大腦所構(gòu)筑的神經(jīng)網(wǎng)絡(luò)其實(shí)是很不一樣的，但人類對(duì)于神經(jīng)網(wǎng)絡(luò)的一些細(xì)節(jié)還有很多不了解的地方，而大腦科學(xué)能夠提供這樣一些信息……”英國(guó)皇家學(xué)會(huì)會(huì)士、英國(guó)倫敦大學(xué)高等研究院感知學(xué)習(xí)中心主任科林·布萊克莫爾，18日在復(fù)旦大學(xué)類腦人工智能主題論壇上如是說。這位皇家會(huì)士上一次訪問復(fù)旦大學(xué)是1974年，40多年后，因世界人工智能大會(huì)重返復(fù)旦，他對(duì)這所中國(guó)知名大學(xué)發(fā)生的巨大變化感慨不已。

腦科學(xué)和人工智能是當(dāng)今國(guó)際科技前沿?zé)狳c(diǎn)，結(jié)合神經(jīng)生物學(xué)原理發(fā)展的腦啟發(fā)智能算法應(yīng)用迅速崛起，催生了新一代類腦人工智能系統(tǒng)，為疾病診斷、智能機(jī)器人、通用人工智能等戰(zhàn)略性新興產(chǎn)業(yè)帶來巨大的發(fā)展機(jī)遇，成為全球產(chǎn)業(yè)發(fā)展和升級(jí)的新的爆發(fā)點(diǎn)和增長(zhǎng)點(diǎn)。

當(dāng)天，復(fù)旦大學(xué)這個(gè)分論壇可謂群星璀璨，除了科林·布萊克莫爾，還有2013年諾貝爾化學(xué)獎(jiǎng)得主、斯坦福大學(xué)結(jié)構(gòu)生物學(xué)教授邁克爾·萊維特，英偉達(dá)集團(tuán)首席科學(xué)家及高級(jí)副總裁、斯坦福大學(xué)電子工程與計(jì)算機(jī)科學(xué)教授比爾·戴利，中國(guó)科學(xué)院院士、中國(guó)科學(xué)院腦科學(xué)與智能技術(shù)卓越創(chuàng)新中心主任蒲慕明，英國(guó)皇家工程院院士、英國(guó)帝國(guó)理工學(xué)院教授陸永青，中國(guó)科學(xué)院院士、復(fù)旦大學(xué)電磁波信息科學(xué)教育部重點(diǎn)實(shí)驗(yàn)室主任金亞秋等一大批全球頂尖的學(xué)者專家共同為上海新一代人工智能原始創(chuàng)新能力把脈問診、獻(xiàn)計(jì)獻(xiàn)策。

人工智能如何參與城市管理

上海靜安區(qū)正在致力打造上海建設(shè)國(guó)家大數(shù)據(jù)綜合試驗(yàn)區(qū)的重要功能樞紐區(qū)和產(chǎn)業(yè)發(fā)展集聚區(qū)。自上海數(shù)據(jù)交易中心落戶靜安、上海大數(shù)據(jù)產(chǎn)業(yè)基地揭牌兩年以來，靜安區(qū)的大數(shù)據(jù)發(fā)展取得了可喜的進(jìn)步。大數(shù)據(jù)在該區(qū)推進(jìn)城市精細(xì)化管理的過程中也發(fā)揮著日益重要的作用。

人工智能的發(fā)展離不開對(duì)大數(shù)據(jù)的充分應(yīng)用，恰逢2018世界人工智能大會(huì)的舉辦，靜安區(qū)今年舉辦的第三屆國(guó)際大數(shù)據(jù)論壇也成了本屆世界人工智能大會(huì)的一部分。聯(lián)合國(guó)公共機(jī)構(gòu)和數(shù)字政府司官員、國(guó)內(nèi)外知名高校和科研機(jī)構(gòu)中從事大數(shù)據(jù)和人工智能研究的學(xué)界專家、國(guó)內(nèi)外大數(shù)據(jù)行業(yè)龍頭企業(yè)技術(shù)專家、知名創(chuàng)投機(jī)構(gòu)代表、大數(shù)據(jù)行業(yè)相關(guān)企業(yè)等共1000余名嘉賓圍繞“大數(shù)據(jù)和城市智能”進(jìn)行深度交流，商討如何運(yùn)用數(shù)據(jù)驅(qū)動(dòng)的力量，推動(dòng)城市智能化發(fā)展及精細(xì)化管理不斷深化，推動(dòng)未來靜安區(qū)城市功能和品質(zhì)不斷優(yōu)化和提升，為上海建設(shè)全球卓越城市作出貢獻(xiàn)。

此外，在該分會(huì)場(chǎng)的“城市智能創(chuàng)新項(xiàng)目分享會(huì)”上，來自政府、大數(shù)據(jù)企業(yè)、科研院校、產(chǎn)業(yè)聯(lián)盟的眾多嘉賓先后就“大數(shù)據(jù)與上海購(gòu)物”“打破AI幻覺，深度應(yīng)用實(shí)現(xiàn)價(jià)值”“數(shù)據(jù)跨境傳輸?shù)钠髽I(yè)合規(guī)挑戰(zhàn)”“健康醫(yī)療數(shù)據(jù)保護(hù)與流通案例分享”“大數(shù)據(jù)態(tài)勢(shì)及企業(yè)大腦實(shí)踐”“基于AI的機(jī)器人流程自動(dòng)化技術(shù)分享”“海量精準(zhǔn)大數(shù)據(jù)是AI人工智能的核心基礎(chǔ)”等多個(gè)方面進(jìn)行了政策解讀、技術(shù)探討和案例分享，讓聽眾對(duì)大數(shù)據(jù)在城市管理和規(guī)劃中的應(yīng)用和實(shí)踐有了更全面的了解。

人工智能如何賦能各行各業(yè)

除了高校和政府機(jī)構(gòu)，國(guó)內(nèi)外人工智能的領(lǐng)軍企業(yè)也是眾多分論壇的承辦方。記者18日上午在科大訊飛承辦的“人機(jī)交互·萬物互聯(lián)”AI+行業(yè)賦能發(fā)展論壇上聆聽了中國(guó)科學(xué)院院士裴鋼，美國(guó)斯坦福大學(xué)人工智能、機(jī)器人與未來教育中心主任蔣里等十余位知名專家學(xué)者、企業(yè)家，圍繞人工智能、大數(shù)據(jù)等先進(jìn)技術(shù)如何為行業(yè)發(fā)展助力賦能展開的熱烈討論。

語音是未來人機(jī)交互最重要的入口之一。科大訊飛執(zhí)行總裁胡郁介紹，科大訊飛在智能語音與人工智能領(lǐng)域有近20年的研究與積累，立志讓機(jī)器能聽會(huì)說，能理解會(huì)思考。目前，科大訊飛正在用先進(jìn)的智能語音與人工智能技術(shù)賦能教育、醫(yī)療、政法等各個(gè)行業(yè)，希望借助人工智能建設(shè)美好世界，迎接人機(jī)交互、萬物互聯(lián)的時(shí)代。

零售應(yīng)用是人工智能技術(shù)的重要領(lǐng)域，京東集團(tuán)副總裁、AI負(fù)責(zé)人周伯文在論壇上作了題為《人工智能重塑零售服務(wù)》的發(fā)言。他介紹，京東的理念是服務(wù)等于內(nèi)容加交互，正持續(xù)在倉(cāng)儲(chǔ)、物流等場(chǎng)景布局人工智能，致力于用技術(shù)驅(qū)動(dòng)公司成長(zhǎng)，助力服務(wù)行業(yè)升級(jí)，完成從“科技零售”到“零售科技”轉(zhuǎn)型。

與會(huì)嘉賓一致認(rèn)為，未來人工智能會(huì)像水和電一樣無處不在，世界也將因人工智能而更美好。人工智能將是這個(gè)時(shí)代最偉大的魔法師，AI賦能，讓一切皆有可能。

摘自《光明日?qǐng)?bào)》