91欧美超碰AV自拍|国产成年人性爱视频免费看|亚洲 日韩 欧美一厂二区入|人人看人人爽人人操aV|丝袜美腿视频一区二区在线看|人人操人人爽人人爱|婷婷五月天超碰|97色色欧美亚州A√|另类A√无码精品一级av|欧美特级日韩特级

您好,歡迎來(lái)電子發(fā)燒友網(wǎng)! ,新用戶?[免費(fèi)注冊(cè)]

您的位置:電子發(fā)燒友網(wǎng)>源碼下載>數(shù)值算法/人工智能>

深度監(jiān)督學(xué)習(xí)的局限和破解思路

大?。?/span>0.3 MB 人氣: 2017-10-09 需要積分:1
8月26至27日,由中國(guó)人工智能學(xué)會(huì)(CAAI)發(fā)起并主辦、中科院自動(dòng)化研究所與CSDN共同承辦的 第二屆中國(guó)人工智能大會(huì)(CCAI 2016)[http://ccai.caai.cn/]將在北京盛大召開(kāi)。本次大會(huì)將持續(xù)匯聚全球人工智能領(lǐng)域的頂級(jí)專家學(xué)者和產(chǎn)業(yè)界人士,圍繞 人機(jī)交互、機(jī)器學(xué)習(xí)、模式識(shí)別、產(chǎn)業(yè)實(shí)戰(zhàn)人工智能前沿話題進(jìn)行深入交流和探討。
  微軟人工智能首席科學(xué)家鄧力博士將受邀出席本次大會(huì),并做題為《 驅(qū)動(dòng)大數(shù)據(jù)人工智能多種應(yīng)用的三類深度學(xué)習(xí)模式》的主題報(bào)告。大會(huì)前夕,鄧力博士接受CSDN記者的簡(jiǎn)短采訪,針對(duì)大數(shù)據(jù)、深度學(xué)習(xí)以及人工智能的其他技術(shù)領(lǐng)域進(jìn)行解析。
  鄧力博士介紹,他的主題報(bào)告將會(huì)講述深度監(jiān)督學(xué)習(xí)、深度非監(jiān)督學(xué)習(xí)和深度強(qiáng)化學(xué)習(xí)之間的關(guān)系和區(qū)別,以及這三類深度學(xué)習(xí)模式跟大數(shù)據(jù)的關(guān)系,并通過(guò)實(shí)踐案例來(lái)說(shuō)明三類學(xué)習(xí)算法的適用環(huán)境及效果。他認(rèn)為,目前基于大數(shù)據(jù)的人工智能的應(yīng)用局限之一在于依賴于要求輸入輸出有匹配的大訓(xùn)練數(shù)據(jù)的深度監(jiān)督學(xué)習(xí),而破解目前大數(shù)據(jù)人工智能的缺失的思路包括深度非監(jiān)督學(xué)習(xí)和深度強(qiáng)化學(xué)習(xí),以及新型的基于高維張量的結(jié)構(gòu)表征。
  他還解釋了強(qiáng)化學(xué)習(xí)的適用領(lǐng)域,深度學(xué)習(xí)與強(qiáng)化學(xué)習(xí)結(jié)合的優(yōu)勢(shì),并指出深度強(qiáng)化學(xué)習(xí)對(duì)微軟的Bot愿景的作用——深度強(qiáng)化學(xué)習(xí)不但掌控每一單種Bot的對(duì)話輸出的內(nèi)容,更掌控各種Bots之間的協(xié)調(diào)和切換。
  
  微軟人工智能首席科學(xué)家 鄧力
  世界著名人工智能、機(jī)器學(xué)習(xí)和語(yǔ)音語(yǔ)言信號(hào)處理專家,現(xiàn)任微軟人工智能首席科學(xué)家和深度學(xué)習(xí)技術(shù)中心研究經(jīng)理。他在美國(guó)威斯康星大學(xué)先后獲碩士和博士學(xué)位,然后在加拿大滑鐵盧大學(xué)任教獲得終身正教授。其間,他還任麻省理工學(xué)院研究職位。1999 年加入微軟研究院歷任數(shù)職,并在2014 年初創(chuàng)辦深度學(xué)習(xí)技術(shù)中心,主持微軟公司和研究院的人工智能和深度學(xué)習(xí)領(lǐng)域的技術(shù)創(chuàng)新。鄧力博士的研究方向包括自動(dòng)語(yǔ)音與說(shuō)話者識(shí)別、口語(yǔ)識(shí)別與理解、語(yǔ)音–語(yǔ)音翻譯、機(jī)器翻譯、語(yǔ)言模式、自然語(yǔ)言處理、統(tǒng)計(jì)方法與機(jī)器學(xué)習(xí)、神經(jīng)科學(xué),聽(tīng)覺(jué)和其他生物信息處理、深層結(jié)構(gòu)學(xué)習(xí)、類腦機(jī)器智能、圖像語(yǔ)言多模態(tài)深度學(xué)習(xí),商業(yè)大數(shù)據(jù)深度分析預(yù)測(cè)等。他在上述領(lǐng)域做出了重大貢獻(xiàn),是ASA(美國(guó)聲學(xué)學(xué)會(huì))會(huì)士、IEEE(美國(guó)電氣電子工程師協(xié)會(huì))會(huì)士和理事、ISCA(國(guó)際語(yǔ)音通信協(xié)會(huì))會(huì)士,并憑借在深度學(xué)習(xí)與自動(dòng)語(yǔ)音識(shí)別方向做出的杰出貢獻(xiàn)榮獲2015年度IEEE 信號(hào)處理技術(shù)成就獎(jiǎng)和2013年度最佳論文獎(jiǎng)。同時(shí),他也曾在頂級(jí)雜志和會(huì)議上發(fā)表過(guò)與上述領(lǐng)域相關(guān)的300 余篇學(xué)術(shù)論文,出版過(guò)5 部著作,發(fā)明及合作發(fā)明了超過(guò)70 多項(xiàng)專利。鄧力博士還擔(dān)任過(guò)IEEE 信號(hào)處理雜志和《音頻、語(yǔ)音與語(yǔ)言處理學(xué)報(bào)》(IEEE/ACM Transactions on Audio, Speech & Language Processing)的主編。
  以下為內(nèi)容采訪實(shí)錄
  AlphaGo戰(zhàn)勝李世石并不令人驚訝
  CSDN:當(dāng)前人工智能領(lǐng)域的技術(shù)研究和應(yīng)用進(jìn)展,有哪些是您意想不到的?AlphaGo?
  鄧力:基于我自2009年來(lái)對(duì)深度神經(jīng)網(wǎng)絡(luò)巨大學(xué)習(xí)容量的體驗(yàn)和理解,我對(duì)目前深度學(xué)習(xí)對(duì)人工智能領(lǐng)域的技術(shù)研究和各方應(yīng)用的大規(guī)模的成功推動(dòng)以及成就沒(méi)有感覺(jué)有意想不到進(jìn)展。由深度強(qiáng)化學(xué)習(xí)主導(dǎo)的 AlphaGo 以四比一戰(zhàn)勝李世石并不令人驚訝。
  CSDN:您對(duì)強(qiáng)化學(xué)習(xí)和深度學(xué)習(xí)的結(jié)合贊賞有加,那么強(qiáng)化學(xué)習(xí)適合在哪些領(lǐng)域普及?
  鄧力:強(qiáng)化學(xué)習(xí)適用于控制和決策任何有階段性的過(guò)程,好比下棋,機(jī)械機(jī)器人行動(dòng),和很多商業(yè)決策。應(yīng)用強(qiáng)化學(xué)習(xí)時(shí)最好回報(bào)信號(hào)要清楚或容易定義,比如下棋。否則就要用內(nèi)在動(dòng)機(jī)來(lái)驅(qū)動(dòng)強(qiáng)化學(xué)習(xí),比如用于聊天機(jī)器人。方向之一是整合信息論與動(dòng)態(tài)規(guī)劃,這還屬于研究階段。大型狀態(tài)空間以前對(duì)強(qiáng)化學(xué)習(xí)是個(gè)大難題,但現(xiàn)在引入深度學(xué)習(xí)之后問(wèn)題就基本解決了。具有大型行動(dòng)空間(比如把合成型的自然語(yǔ)言作為對(duì)話機(jī)器人的“行動(dòng)”輸出)的強(qiáng)化學(xué)習(xí)我們團(tuán)隊(duì)正在深入研究。用深度學(xué)習(xí)來(lái)解決大型行動(dòng)空間要比解決大型狀態(tài)空間麻煩不少。我們團(tuán)隊(duì)在這方面發(fā)了一些論文。
  CSDN:您如何看待深度學(xué)習(xí)與更多的其他方法(如貝葉斯方法)結(jié)合及前景?
  鄧力:目前基于神經(jīng)網(wǎng)絡(luò)的深度學(xué)習(xí)可以很好地同貝葉斯方法和生成式模型結(jié)合起來(lái)。優(yōu)點(diǎn)在于能夠賦予深度學(xué)習(xí)以解釋性,也可降低深度學(xué)習(xí)對(duì)輸入輸出匹配的訓(xùn)練數(shù)據(jù)量的要求。如用到深度強(qiáng)化學(xué)習(xí), 這種結(jié)合能大大提高學(xué)習(xí)效率,因?yàn)樗審?qiáng)化學(xué)習(xí)中的探索步驟更為快速而且探索空間變成更為廣大。
  CSDN:除此之外,您認(rèn)為哪些與深度學(xué)習(xí)完全無(wú)關(guān)的技術(shù)領(lǐng)域也值得我們關(guān)注?
  鄧力:命題邏輯和一階邏輯的推理表面上看似乎與深度學(xué)習(xí)無(wú)關(guān)。近來(lái)用深度學(xué)習(xí)做邏輯推理出了不少很好的工作。我們團(tuán)隊(duì)在2016年ICLR有篇長(zhǎng)文章。然而用純符號(hào)的命題邏輯和一階邏輯做推理要比用深度神經(jīng)網(wǎng)絡(luò)容易解釋得多,好比計(jì)算機(jī)的高級(jí)語(yǔ)言要比匯編語(yǔ)言容易看懂得多。這種解釋性在實(shí)際應(yīng)用上很重要。但是純符號(hào)的邏輯方法和模型比起深度神經(jīng)網(wǎng)絡(luò)難學(xué)的多。幸好在認(rèn)知科學(xué)中有一套正在發(fā)展的理論,它把任意一個(gè)純符號(hào)樹(shù)狀或圖狀結(jié)構(gòu)(可以高效率且具有強(qiáng)解釋性用在邏輯推理上)跟一個(gè)高維度的張量建立起同構(gòu)。因?yàn)閺埩渴亲钭匀挥糜谏疃葘W(xué)習(xí)的數(shù)據(jù)結(jié)構(gòu),這種同構(gòu)就讓我們的人工智能系統(tǒng)能有效地實(shí)現(xiàn)結(jié)構(gòu)到結(jié)構(gòu)的符號(hào)映射(比如自然語(yǔ)言或計(jì)算機(jī)程序的輸入輸出),但同時(shí)又能直接用深度神經(jīng)網(wǎng)絡(luò)的方法去學(xué)習(xí)和優(yōu)化這種結(jié)構(gòu)映射(這包括復(fù)雜多步的邏輯推理)。
  微軟人工智能研發(fā)路線
  CSDN:微軟計(jì)劃在人工智能領(lǐng)域成為領(lǐng)軍者,能否介紹您的工作在其中的作用?您最近半年的主要工作進(jìn)展在哪方面?
  鄧力:我目前用50%時(shí)間在微軟美國(guó)總部的研究院管理和領(lǐng)導(dǎo)深度學(xué)習(xí)技術(shù)中心,這里有一支很強(qiáng)的技術(shù)和研究團(tuán)隊(duì)。另外50%時(shí)間在微軟的商業(yè)部門任首席人工智能科學(xué)家,將人工智能和各類深度學(xué)習(xí)的技術(shù)和研究成果應(yīng)用到人工智能產(chǎn)品和云端服務(wù)。最近半年我們團(tuán)隊(duì)的主要工作包括:
  將深度學(xué)習(xí)技術(shù)成功地應(yīng)用到商業(yè)大數(shù)據(jù)的分析、預(yù)測(cè)、客戶評(píng)分,等等,取得顯著成果;
  利用深度強(qiáng)化學(xué)習(xí)推動(dòng)多類自然語(yǔ)言對(duì)話機(jī)器人的研發(fā);
  自然語(yǔ)言、視覺(jué)和知識(shí)庫(kù)相結(jié)合的多媒態(tài)研究與應(yīng)用;
  新型深度學(xué)習(xí)架構(gòu)、算法、結(jié)構(gòu)表征基礎(chǔ)研究的進(jìn)展。
  CSDN:微軟做了不少人工智能的API提供給開(kāi)發(fā)者,您是否認(rèn)為人工智能會(huì)成為未來(lái)app的普遍屬性?當(dāng)前開(kāi)發(fā)人員需要學(xué)習(xí)哪些人工智能相關(guān)的知識(shí)?如何上手?
  鄧力:微軟的Cognitive Services (微軟認(rèn)知服務(wù),其開(kāi)發(fā)文檔和教程可以參考官網(wǎng):https://www.azure.cn/cognitive-services/)會(huì)提供越來(lái)越多的人工智能工具給開(kāi)發(fā)者。不少已經(jīng)可以從Microsoft Bot Framework 調(diào)用了。Microsoft Bot Framework 網(wǎng)站(https://dev.botframework.com/) 有相當(dāng)詳細(xì)的信息。
  CSDN:關(guān)于微軟Bots的理想,您認(rèn)為它的實(shí)現(xiàn)需要哪些主要的技術(shù)積累?
  鄧力:具有強(qiáng)大功能的人工智能是Bots的理想愿景實(shí)現(xiàn)的最關(guān)鍵之一。主要的技術(shù)積累是以上講到的深度學(xué)習(xí),特別是深度強(qiáng)化學(xué)習(xí)。深度強(qiáng)化學(xué)習(xí)不但掌控每一單種Bot 的對(duì)話輸出的最佳內(nèi)容,更掌控各種Bots 之間的最佳協(xié)調(diào)和切換。
  CCAI分享大數(shù)據(jù)與深度學(xué)習(xí)
  CSDN:請(qǐng)簡(jiǎn)要介紹您在本次大會(huì)的報(bào)告主題《驅(qū)動(dòng)大數(shù)據(jù)人工智能多種應(yīng)用的三類深度學(xué)習(xí)模式》?
  鄧力:主要想講三類深度學(xué)習(xí)模式——深度監(jiān)督學(xué)習(xí)、深度非監(jiān)督學(xué)習(xí)和深度強(qiáng)化學(xué)習(xí)之間的關(guān)系和區(qū)別。在哪種人工智能應(yīng)用中選用哪種模式?為什么?洞見(jiàn)(insights)在哪里?想用我團(tuán)隊(duì)用過(guò)的成功(和失?。┑睦觼?lái)為大家提供一些洞見(jiàn)。
  還想講這三類深度學(xué)習(xí)模式跟大數(shù)據(jù)的關(guān)系。輸入輸出有匹配的大訓(xùn)練數(shù)據(jù)一般會(huì)讓深度監(jiān)督學(xué)習(xí)成功 (端到端的backpropagation 對(duì)有匹配的大數(shù)據(jù)的訓(xùn)練實(shí)在有效),但輸入輸出匹配成本很高。相反,無(wú)輸入輸出匹配的大數(shù)據(jù)成本要低得多。要利用比現(xiàn)有輸入輸出有匹配的大訓(xùn)練數(shù)據(jù)高出幾個(gè)數(shù)量級(jí)的無(wú)輸入輸出匹配的大訓(xùn)練數(shù)據(jù)來(lái)訓(xùn)練深度學(xué)習(xí)系統(tǒng),必須開(kāi)發(fā)全新的深度非監(jiān)督學(xué)習(xí)算法。如果成功,這會(huì)給人工智能帶來(lái)一個(gè)新的里程碑。
  CSDN:能否再解釋基于大數(shù)據(jù)的人工智能的應(yīng)用局限,以及一些破解高質(zhì)量的大數(shù)據(jù)人工智能的缺失的一些思路?
  鄧力:目前基于大數(shù)據(jù)的人工智能的應(yīng)用局限之一在于依賴于深度監(jiān)督學(xué)習(xí),就是說(shuō)要在有輸入輸出匹配的大訓(xùn)練數(shù)據(jù)之后才能使用端到端的backpropagation。不但成本很高,而且系統(tǒng)很不靈活,很難快速適應(yīng)新環(huán)境。如果需要解決復(fù)雜的邏輯推理問(wèn)題,基于大數(shù)據(jù)和深度學(xué)習(xí)的人工智能系統(tǒng)往往給不出理想的答案。這種依賴于深度監(jiān)督學(xué)習(xí)的系統(tǒng)還缺乏常識(shí)和直覺(jué)。
  破解高質(zhì)量大數(shù)據(jù)缺失的思路包括以上講的深度非監(jiān)督學(xué)習(xí)和深度強(qiáng)化學(xué)習(xí),以及新型的基于高維張量的結(jié)構(gòu)表征和知識(shí)庫(kù)。
  CSDN:哪些人適合聽(tīng)這個(gè)報(bào)告?需要什么預(yù)備知識(shí)?他們會(huì)有什么收獲?
  鄧力:研究人員,研究生,ICT 公司和政府管理者。對(duì)人工智能和深度學(xué)習(xí)感興趣的人。希望聽(tīng)完這個(gè)報(bào)告之后會(huì)對(duì)人工智能和深度學(xué)習(xí)有更深一步的理解,尤其在如何把理論用到實(shí)踐。
  CSDN:最后一個(gè)問(wèn)題,您如何看待國(guó)外與國(guó)內(nèi)人工智能技術(shù)和應(yīng)用的差異?在企業(yè)應(yīng)用、人才培養(yǎng)上,國(guó)外有哪些好的經(jīng)驗(yàn)值得國(guó)內(nèi)借鑒?
  鄧力:國(guó)外與國(guó)內(nèi)人工智能技術(shù)和應(yīng)用的差異日趨縮小。我很多以前在美國(guó)、英國(guó)從事人工智能和深度學(xué)習(xí)的朋友都回國(guó)創(chuàng)業(yè)。
  國(guó)外好的經(jīng)驗(yàn)是注重創(chuàng)新,鼓勵(lì)快速失敗。
?

非常好我支持^.^

(0) 0%

不好我反對(duì)

(0) 0%

      發(fā)表評(píng)論

      用戶評(píng)論
      評(píng)價(jià):好評(píng)中評(píng)差評(píng)

      發(fā)表評(píng)論,獲取積分! 請(qǐng)遵守相關(guān)規(guī)定!

      ?