2017 年，人工智能領(lǐng)域迎來了轉(zhuǎn)折之年：在這一年，傳統(tǒng)的計(jì)算機(jī)視覺和語音識(shí)別都達(dá)到了新的高度，也在性能方面趨于飽和 。在 2017 年的 ImageNet 圖片識(shí)別比賽中，參賽的 38 支隊(duì)伍中有 29 支錯(cuò)誤率低于 5%(2011年，表現(xiàn)最好的隊(duì)伍也有四分之一左右的錯(cuò)誤率)。部分由于這個(gè)原因，ImageNet 宣布將在 2018 年改變數(shù)據(jù)集，增加難度。

　　在產(chǎn)業(yè)方面，不少專注于計(jì)算機(jī)視覺的公司也獲得了長足發(fā)展。其中比較具有代表性的是估值已經(jīng)超過 20 億美元的商湯科技，在經(jīng)歷了數(shù)輪大額融資之后，其隱隱有從獨(dú)角獸變成巨頭的趨勢(shì)。

　　不過，人工智能另一個(gè)相關(guān)領(lǐng)域自然語言處理 似乎沒有達(dá)到這種高度。在技術(shù)方面，這一領(lǐng)域的技術(shù)準(zhǔn)確率遠(yuǎn)遠(yuǎn)沒有達(dá)到計(jì)算機(jī)視覺和語音識(shí)別的水平，技術(shù)產(chǎn)品(比如個(gè)人助手)經(jīng)常被人諷刺只能用來調(diào)戲，缺少實(shí)際價(jià)值。在創(chuàng)業(yè)公司方面，自然語言處理領(lǐng)域也沒有產(chǎn)生像商湯、曠視、依圖、云從這樣的“小巨頭” 。

　　這些現(xiàn)狀都恰恰說明自然語言處理的難度。然而，可以說這項(xiàng)技術(shù)有多難，就有多重要。

　　微軟創(chuàng)始人比爾·蓋茨曾經(jīng)表示，“語言理解是人工智能領(lǐng)域皇冠上的明珠”。微軟全球執(zhí)行副總裁沈向洋也在2017年底的公開演講時(shí)說：“懂語言者得天下……下一個(gè)十年，人工智能的突破在自然語言的理解 ……人工智能對(duì)人類影響最為深刻的就是自然語言方面”。

　　人工智能包括兩個(gè)重要的部分——“感知”和“認(rèn)知”。其中，計(jì)算機(jī)視覺和語音識(shí)別等領(lǐng)域?qū)儆诟兄糠郑匀徽Z言處理屬于認(rèn)知部分的重要內(nèi)容。對(duì)一個(gè)“智能”而言，僅僅感知當(dāng)然不夠，理解和消化內(nèi)容的認(rèn)知能力才是真正意義上的核心。

　　那么，我們究竟何時(shí)才能摘下這個(gè)“人工智能領(lǐng)域皇冠上的明珠”?圍繞這個(gè)問題，近日，記者分別采訪了兩位自然語言處理領(lǐng)域的領(lǐng)軍人物：賓夕法尼亞大學(xué)教授 Dan Roth 和微軟亞洲研究院副院長周明。

　　對(duì)于自然語言處理領(lǐng)域的從業(yè)者來說，這兩位的名聲如雷貫耳。

　　Dan Roth 教授致力于通過機(jī)器學(xué)習(xí)和推理的方法幫助機(jī)器理解自然語言，他也是 AAAS、ACL、AAAI 和 ACM 的會(huì)士，曾在多個(gè)重要會(huì)議上擔(dān)任程序主席一職，他也是中國計(jì)算機(jī)學(xué)會(huì)主辦的國際自然語言處理和中文計(jì)算大會(huì)(NLPCC2018)的大會(huì)主席之一。

　　而周明博士作為中國自然語言處理最頂尖的學(xué)者之一，目前擔(dān)任微軟亞洲研究院副院長、國際計(jì)算語言學(xué)協(xié)會(huì)(ACL)候任主席、中國計(jì)算機(jī)學(xué)會(huì)理事、中文信息技術(shù)專委會(huì)主任、術(shù)語工作委員會(huì)主任、中國中文信息學(xué)會(huì)常務(wù)理事等多個(gè)職務(wù)，還是哈爾濱工業(yè)大學(xué)、天津大學(xué)、南開大學(xué)、山東大學(xué)等多所學(xué)校博士導(dǎo)師。

　　在與兩位 NLP 領(lǐng)軍人物的對(duì)話中，DT君發(fā)現(xiàn)，兩位受訪者在一些熱門話題上有所分歧，比如說近幾年愈發(fā)火熱的專業(yè)競(jìng)賽， Dan Roth 認(rèn)為這樣的競(jìng)賽長期來看對(duì)推動(dòng)科學(xué)研究和發(fā)展價(jià)值不大，而周明的看法則正面得多。而在比較自然語言處理和計(jì)算機(jī)視覺的發(fā)展時(shí)，兩位都認(rèn)為，自然語言處理遠(yuǎn)比計(jì)算機(jī)視覺復(fù)雜，仍有許多問題沒有解決。

　　盡管如此，在訪談的最后，Dan Roth 和周明也都表示出對(duì)于自然語言處理有望在 2018 年涌現(xiàn)新進(jìn)展的信心 。以下為訪談全文：

　　我們還沒看到非常大的 NLP 創(chuàng)業(yè)公司

　　問：為什么自然語言處理領(lǐng)域沒有產(chǎn)生非常大的創(chuàng)業(yè)公司？

　　周明 ：

　　這個(gè)問題很值得研究?？偟膩碚f，這是因?yàn)樽匀徽Z言處理的技術(shù)難度太大，和應(yīng)用場(chǎng)景太復(fù)雜。

　　一個(gè)公司的成立和發(fā)展是由需求驅(qū)動(dòng)。圖像識(shí)別的需求巨大，例如安防和身份認(rèn)證的應(yīng)用場(chǎng)景很多，到處都有攝像頭，誰也看不過來。所以，安防領(lǐng)域一直期待著一種技術(shù)，只要達(dá)到一個(gè)閾值，立刻就能用了，恰好這兩年深度學(xué)習(xí)把計(jì)算機(jī)視覺水平升到了那個(gè)閾值。此外，就像上面的回答所說，圖像識(shí)別問題更干凈，再加上有現(xiàn)成且巨大的場(chǎng)景。所以，只要技術(shù)有一點(diǎn)突破，場(chǎng)景自然結(jié)合，公司一下子就做起來。

　　特別純粹的自然語言應(yīng)用(不包括搜索)，主要就是機(jī)器翻譯。機(jī)器翻譯長期有需求，但沒有安防和身份認(rèn)證的需求那么大。而且，機(jī)器翻譯水平一直不到位。即使到今天，機(jī)器也很難翻譯有背景的復(fù)雜句子。

　　另外，自然語言處理的應(yīng)用太依賴于UI了。圖像識(shí)別基本不需要UI，直接在系統(tǒng)內(nèi)部集成一些技術(shù)就行。包括微軟在內(nèi)的所有公司做翻譯軟件，如果UI做得不行，用戶體驗(yàn)不行，人們就不會(huì)愿意使用。

　　技術(shù)產(chǎn)業(yè)化最重要的是商業(yè)模式，也就是怎么讓技術(shù)掙錢。圖像識(shí)別公司的掙錢模式已經(jīng)成立了，但翻譯付費(fèi)就難多了。所以自然語言是從研究到技術(shù)到落地到商業(yè)化，面臨一系列的挑戰(zhàn)。

　　目前的現(xiàn)狀是，自然語言處理技術(shù)更多的是作為公司內(nèi)部技術(shù)，比如內(nèi)部的商業(yè)情報(bào)或人機(jī)接口功能。但這不代表我們未來找不到這樣的渠道。

　　Dan Roth ：

　　在各種專業(yè)應(yīng)用中，必須要選擇正確的自然語言模型，沒有任何單一模型可以解決自然語言領(lǐng)域中所遇到的所有問題，自然語言處理沒有一個(gè)可以解決所有問題的魔術(shù)盒子存在，你必須要把所有相關(guān)的知識(shí)庫放進(jìn)盒子里，選擇對(duì)的算法，并且針對(duì)性的處理特定問題，那么這個(gè)盒子最后才有作用。這種現(xiàn)狀加大了技術(shù)落地的難度。

　　舉例來說，計(jì)算機(jī)視覺發(fā)展到最后已經(jīng)不是只有單純識(shí)別圖像或者是物體，而是要能夠做到預(yù)測(cè)這些物體的本身的下一個(gè)動(dòng)作，比如說在桌子上放了瓶水，然后把瓶子往外推，一個(gè)先進(jìn)的計(jì)算機(jī)視覺系統(tǒng)就能夠判斷出瓶子最終的動(dòng)作軌跡可能是掉到桌子下。然而自然語言處理技術(shù)達(dá)不到這種水平，它無法進(jìn)行預(yù)測(cè)。它只能就現(xiàn)有的文字組合、數(shù)據(jù)庫來判斷所有文字應(yīng)該有的意義。

　　計(jì)算機(jī)視覺的物體識(shí)別準(zhǔn)確度已經(jīng)可以達(dá)到將近百分之百，而自然語言目前的閱讀準(zhǔn)確度也不過將近9成，而這也是目前自然語言處理商用化的最大阻礙。如果要用到專業(yè)領(lǐng)域，那么現(xiàn)有的精準(zhǔn)度明顯不足。

　　即使我們不考慮基礎(chǔ)研究的困難，就算是現(xiàn)有的自然語言處理的基礎(chǔ)研究結(jié)果，似乎也沒有很好地轉(zhuǎn)化，很多產(chǎn)品在發(fā)布會(huì)上的效果往往和實(shí)際使用的效果完全不同。

　　周明 ：

　　目前自然語言處理產(chǎn)品出現(xiàn)的問題，很多時(shí)候無關(guān)技術(shù)，而是在產(chǎn)品設(shè)計(jì)和UI方面做得不夠好。

　　在做機(jī)器閱讀理解和機(jī)器翻譯研究的時(shí)候，我們往往有一個(gè)固定的評(píng)測(cè)集，以及F-分?jǐn)?shù)和精確度這樣的評(píng)測(cè)方法。但這些不代表用戶的體驗(yàn)，即使在實(shí)驗(yàn)中分?jǐn)?shù)達(dá)到100%也是這樣。技術(shù)是獨(dú)立于產(chǎn)品應(yīng)用方向發(fā)展的，做產(chǎn)品的人應(yīng)用技術(shù)的時(shí)候要運(yùn)用之妙存乎一心。他們要考慮，無論是78%的技術(shù)，還是88%或者98%的技術(shù)，要怎么運(yùn)用到產(chǎn)品里，才能讓用戶體驗(yàn)最好。

　　用戶體驗(yàn)要考慮什么呢?最重要的是用戶界面。因?yàn)橄到y(tǒng)很難達(dá)到100%的正確，所以要考慮用戶怎么操作，怎么容錯(cuò)，讓他們接受有缺陷的結(jié)果。比如說搜索引擎返回多個(gè)搜索結(jié)果的設(shè)計(jì)，其實(shí)非常巧妙。因?yàn)檎l都知道搜索達(dá)不到那么好的水準(zhǔn)，但當(dāng)返回多個(gè)結(jié)果后，用戶不抱怨搜索引擎，反而認(rèn)為搜索引擎的結(jié)果擴(kuò)大了他的思路，把壞事變成好事。

　　這種巧妙的用戶界面設(shè)計(jì)和用戶體驗(yàn)設(shè)計(jì)，是做自然語言處理的人要好好考慮的。系統(tǒng)和研究厲害，不代表能把用戶體驗(yàn)做好。要從用戶的角度看，如何把你的技術(shù)，融入到其他所有的相關(guān)的場(chǎng)景中，解決用戶的實(shí)際問題。

　　還是以機(jī)器翻譯為例，在實(shí)驗(yàn)室里，所有話都實(shí)驗(yàn)了很多遍，也沒有什么噪聲，效果肯定很好。但做產(chǎn)品的時(shí)候要考慮語音、環(huán)境噪聲、背景噪聲、遠(yuǎn)場(chǎng)識(shí)別、專有名詞，以及口音等等。如果做不好，會(huì)導(dǎo)致翻譯結(jié)果一塌糊涂。

　　但是，背景噪聲怎么來解決呢?首先要好好調(diào)整UI，要解決語音識(shí)別的一些問題，然后可能要解決簡(jiǎn)單的多輪對(duì)話的問題，要對(duì)用戶口音做自動(dòng)調(diào)整，如果用戶覺得翻譯不好，要有方便的方式和他們互動(dòng)。這樣就能讓用戶覺得，這個(gè)系統(tǒng)雖然沒有那么好，但是他也給我解決了很多問題了。這一塊就是要考慮設(shè)計(jì)水平的能力了。

　　所以，這個(gè)不是科技要解決的問題，這個(gè)是產(chǎn)品設(shè)計(jì)要解決的問題。

　　2018年，我們可以期待哪些的 NLP 進(jìn)展?

　　問：除了這些難點(diǎn)和問題，自然語言處理技術(shù)在研究和應(yīng)用方面，可以在今年或未來幾年出現(xiàn)較大的進(jìn)展？

　　Dan Roth ：

　　利用知識(shí)庫，未來自然語言處理應(yīng)用會(huì)協(xié)助企業(yè)把專業(yè)知識(shí)轉(zhuǎn)成特定的自然語言處理模型。利用這些模型，自然語言處理技術(shù)就能成為很好的工具，影響更深層次的人類生活。

　　周明 ：

　　垂直領(lǐng)域有一定的保護(hù)門檻(比如有一些不公開的數(shù)據(jù))，導(dǎo)致大公司無法直接進(jìn)入。在這樣的領(lǐng)域可以做一些知識(shí)圖譜的探索，還可以針對(duì)本領(lǐng)域特點(diǎn)，做一些特殊的優(yōu)化和有的放矢的研究，而不是使用通用的自然語言技術(shù)。這樣就可能會(huì)產(chǎn)生一個(gè)專業(yè)的知識(shí)圖譜，以及基于專用圖譜之上的自然語言理解的技術(shù)。最后提升整個(gè)領(lǐng)域的生產(chǎn)力。

　　此外，神經(jīng)網(wǎng)絡(luò)機(jī)器翻譯、閱讀理解、聊天對(duì)話，和創(chuàng)作輔助這四個(gè)應(yīng)用在今年和明年就會(huì)有很多地方普及，相關(guān)的應(yīng)用場(chǎng)景包括搜索引擎、個(gè)人助手、語音助手、機(jī)器翻譯，還有個(gè)人制作音樂，個(gè)人制作新聞、撰寫網(wǎng)絡(luò)小說、問答系統(tǒng)等等。

　　另外一個(gè)重要的應(yīng)用是機(jī)器客服。一般沒人愿意看產(chǎn)品手冊(cè)，但如果讓計(jì)算機(jī)讀一遍產(chǎn)品手冊(cè)，你就能問它任何手冊(cè)里出現(xiàn)過的產(chǎn)品問題，就能在客服、售后服務(wù)這些領(lǐng)域產(chǎn)生很好的應(yīng)用。智能客服可以幫助提高效率，節(jié)省人員。系統(tǒng)也可以按照座席收費(fèi)，有商業(yè)模式。

　　對(duì)成熟公司來說，首先搜索引擎還有進(jìn)步空間。如果搜索引擎有閱讀理解的能力，在手機(jī)屏幕上返回的結(jié)果特別精準(zhǔn)，會(huì)產(chǎn)生很大的競(jìng)爭(zhēng)優(yōu)勢(shì)。第二，現(xiàn)在信息流非常重要。例如今日頭條背后的推薦技術(shù)需要理解文本，理解用戶，然后匹配他們。如果我們的自然語言處理能力提高了以后，推薦水平就提高了。

　　對(duì)創(chuàng)業(yè)公司來說，第一個(gè)機(jī)會(huì)是機(jī)器翻譯，但是要把用戶體驗(yàn)和商業(yè)模式做好。第二個(gè)機(jī)會(huì)是客服。最后一個(gè)是開發(fā)垂直行業(yè)的自然語言處理技術(shù)。

　　“自然語言處理遠(yuǎn)比計(jì)算機(jī)視覺復(fù)雜”

　　問：和一般的機(jī)器學(xué)習(xí)、人工智能領(lǐng)域以及機(jī)器視覺這樣的方向相比，自然語言處理領(lǐng)域是否有存在屬于自己的獨(dú)特挑戰(zhàn)，有什么解決方案？

　　Dan Roth ：

　　計(jì)算機(jī)視覺基本上就是物體探測(cè)。雖然計(jì)算機(jī)視覺應(yīng)用很多，但基本上核心算法都離不開物體探測(cè)這個(gè)方向，背后使用的邏輯也相當(dāng)一致。

　　此外，由于計(jì)算機(jī)視覺的技術(shù)成熟度已經(jīng)達(dá)到商用化的標(biāo)準(zhǔn)，所以我們可以看到很多不同的公司百花齊放。但自然語言處理的情況完全不同。不同場(chǎng)景、不同語言，甚至不同專業(yè)所需要用到的自然語言處理層次都不同，所以自然語言處理遠(yuǎn)比計(jì)算機(jī)視覺復(fù)雜，且目前的應(yīng)用還是相當(dāng)少，要為了這些少數(shù)應(yīng)用而開發(fā)自己的算法并不劃算。

　　周明 ：

　　語音識(shí)別和圖像識(shí)別都是一輸入一輸出，問題非常干凈、簡(jiǎn)潔。比如輸入一個(gè)圖片，要判斷里面有沒有花或者草，直接判斷就行了。這些方向中間沒有多輪，不需要交互，一般不太依賴于知識(shí)圖譜和常識(shí)，即使用也被證明沒有什么太大效果。

　　但自然語言處理有三個(gè)重要的區(qū)別，讓它變得很難：

　　第一，自然語言是多輪的，一個(gè)句子不能孤立的地看，要么有上下文，要么有前后輪對(duì)話。目前的深度學(xué)習(xí)技術(shù)，在建模多輪和上下文的時(shí)候，難度遠(yuǎn)遠(yuǎn)超過了一輸入一輸出的問題。所以語音識(shí)別做的好的人和圖像識(shí)別做的好的人，不一定能做好自然語言。

　　第二，自然語言除了多輪特征之外，它還涉及到了背景知識(shí)和常識(shí)知識(shí)，這個(gè)也是目前大家不清楚怎么建模，都沒有完全明白。

　　第三，自然語言處理要面對(duì)個(gè)性化問題。同樣一句話，不同的人用不同的說法和不同的表達(dá)，圖像一般沒有這么多變化。這種個(gè)性化、多樣化的問題非常難以解決。

　　因?yàn)槿斯ぶ悄馨ǜ兄悄?比如圖像識(shí)別、語言識(shí)別和手勢(shì)識(shí)別等)和認(rèn)知智能(主要是語言理解知識(shí)和推理)，而語言在認(rèn)知智能起到最核心的作用。所以，我們可以很自信地說，如果我們把這些問題都解決了，人工智能最難的部分就基本上要解決了。

　　問：那怎么解決這些問題呢？

　　周明 ：

　　雖然不保證可以改進(jìn)技術(shù)，但有三個(gè)值得嘗試的方向：

　　第一，上下文的建模需要建立大規(guī)模的數(shù)據(jù)集。比如多輪對(duì)話和上下文理解。數(shù)據(jù)標(biāo)注的時(shí)候要注意前后文。沒有這樣的數(shù)據(jù)，很難取得突破。

　　第二，強(qiáng)化學(xué)習(xí)很重要。我們需要根據(jù)用戶的反饋倒推模型并做參數(shù)修正，使模型更加優(yōu)化?，F(xiàn)在強(qiáng)化學(xué)習(xí)剛剛開始用在自然語言領(lǐng)域，性能并不穩(wěn)定，但在未來很有機(jī)會(huì)。

　　第三，要引入常識(shí)和專業(yè)知識(shí)，并把這些知識(shí)構(gòu)建好。這樣就能更加精準(zhǔn)地回答問題。沒有人能證明現(xiàn)在常識(shí)知識(shí)用在語言問答和搜索中的作用有多大。所以，我們需要一個(gè)測(cè)試集來檢驗(yàn)結(jié)果。這個(gè)測(cè)試集要專門測(cè)上下文和常識(shí)，可以讓我們要不停用新模型(比如強(qiáng)化學(xué)習(xí)或者知識(shí)圖譜)去試錯(cuò)，來看系統(tǒng)性能能不能提升。

　　機(jī)器理解競(jìng)賽究竟價(jià)值何在?

圖丨SQuAD的全稱是斯坦福問答數(shù)據(jù)集(Stanford Question Answering Dataset)，是由斯坦福大學(xué)自然語言處理實(shí)驗(yàn)室開發(fā)的數(shù)據(jù)集和比賽。SQuAD的數(shù)據(jù)來自Wikipedia的文章。數(shù)據(jù)標(biāo)注人員去掉了文章里的一些單詞，并讓參賽隊(duì)伍利用模型重新填空，借以檢測(cè)模型對(duì)文章的理解程度

　　問：2017年，微軟亞洲研究院、阿里巴巴和哈工大·訊飛聯(lián)合實(shí)驗(yàn)室分別宣布，自己開發(fā)的模型對(duì)文章的理解已經(jīng)超過了人類標(biāo)注員的水平，引起了很大的反響和爭(zhēng)議。類似 SQuAD 這樣的競(jìng)賽是否有一些技巧刷分？類似的競(jìng)賽對(duì)行業(yè)的意義有多大？我們需要什么樣的數(shù)據(jù)集和比賽？

　　Dan Roth ：

　　這種競(jìng)賽對(duì)于提高技術(shù)基礎(chǔ)建設(shè)會(huì)有一定的貢獻(xiàn)，但是長期來看，對(duì)推動(dòng)科學(xué)研究和發(fā)展方面并沒有太多價(jià)值。

　　舉例來說，如果用相同數(shù)據(jù)集來進(jìn)行競(jìng)爭(zhēng)，持續(xù)個(gè)一年或兩年，比賽本身就會(huì)完全失去其意義。主要原因就是，如果人們只是為了競(jìng)賽的數(shù)據(jù)來進(jìn)行訓(xùn)練，而不是我們所普遍關(guān)心的那些真正應(yīng)該被解決的問題，那么，最后我們就不會(huì)看到真正的技術(shù)進(jìn)展，而只剩為了拿到比賽名次而發(fā)展的各種小技巧。

　　周明 ：

　　SQuAD的一些設(shè)置可以有效防止刷分。例如，數(shù)據(jù)集很大，而且測(cè)試集也沒有公布。總的來說，斯坦福的 SQuAD 可以說是自然語言處理領(lǐng)域一個(gè)里程碑式的創(chuàng)新。人們?cè)瓉碜鲩喿x理解，都是泛泛的去做，從來都不知道到底做到什么水平。但是，現(xiàn)在斯坦福做了一個(gè)大規(guī)模的，不太容易通過微調(diào)改進(jìn)性能(fine tune)的數(shù)據(jù)集。實(shí)際上很有力地來促進(jìn)這個(gè)領(lǐng)域。

　　但 SQuAD 確實(shí)存在問題。但正確的態(tài)度應(yīng)該是巧妙地設(shè)計(jì)測(cè)試集的新難點(diǎn)，針對(duì)這些難點(diǎn)一條一條地把閱讀理解所涉及到的技術(shù)難點(diǎn)逐個(gè)攻關(guān)。久而久之，我們整體的閱讀理解能力就會(huì)循環(huán)往復(fù)地上升，最后就真的逼近人的平均水平。

　　例如，SQuAD 沒有涉及太多的推理能力，我們就可以做一個(gè)專門測(cè)試推理能力的測(cè)試集。推理還可以分幾級(jí)：簡(jiǎn)單推理可以根據(jù)上文就能推理，復(fù)雜推理可以根據(jù)全文推理，更復(fù)雜的推理甚至必須要用到背景和領(lǐng)域知識(shí)。如果能把這樣一層一層的難度做出來的話，成功就有一半了。

　　未來研究的成功有兩個(gè)重要的因素，一個(gè)是模型，一個(gè)是可以用來評(píng)測(cè)競(jìng)賽的數(shù)據(jù)集。