雷鋒網(wǎng) AI 科技評論按：IJCAI（國際人工智能聯(lián)合會議，International Joint Conferences on Artificial Intelligence）是人工智能領域歷史最為悠久，也是影響力最大的學術(shù)會議之一，隨著近年來人工智能的熱度日益攀升，原本僅在奇數(shù)年召開的 IJCAI 自 2015 年開始變成每年召開。今年，萬眾矚目的 IJCAI 也將如約而至，將于 8 月 10 日至 16 日在中國澳門隆重召開。

特邀報告（Invited Talks）作為 IJCAI 最受關注的環(huán)節(jié)之一，隨著會議的臨近，特邀講者名單也在相繼公布中。機器人作為人工智能領域的一個非常重要的研究方向，本次大會也特別邀請了機器人專家、麻省理工教授 Leslie Kaelbling 做特邀報告。屆時，她將帶來主題為《Doing for our robots what evolution did for us》的特邀演講。

Leslie Kaelbling 是麻省理工學院的機器人專家。 她在強化學習、規(guī)劃、機器人導航等人工智能研究領域獲得了引人注目的研究成果，其中包括將運籌學中的部分可觀察的馬爾可夫決策過程應用到人工智能和機器人中，曾獲得 IJCAI「計算機與思想獎」（Computers and Thought Award）等重要獎項，同時她也是人工智能領域頗負盛名的《機器學習研究雜志》的創(chuàng)始人兼主編。

近日，麻省理工學院教授 Lex Fridman 在其播客訪談節(jié)目《Artificial Intelligence Podcast》中與 Leslie Kaelbling 進行了對話。對話中，Leslie Kaelbling 不僅分享了她從哲學領域轉(zhuǎn)入計算機科學領域，并與 AI 和機器人結(jié)緣的背后的故事，還詳細闡述了其對于機器人發(fā)展歷程以及現(xiàn)狀的見解。

采訪視頻播放地址：https://www.youtube.com/watch?v=Er7Dy8rvqOc

雷鋒網(wǎng) AI 科技評論將采訪視頻整理成文如下，全文進行了不改變原意的刪改。

（本文為下篇，上篇閱讀請前往：http://www.sxchenyu.com.cn/news/201904/MCIWUjYZeOXYofuJ.html）

Lex Fridman：您認為感知和規(guī)劃哪個的難度系數(shù)更高？您如何看待通過了解周圍的世界來實現(xiàn)感知？

Leslie Kaelbling：我認為一個重要的問題是表示。近來，感知取得了很大的進展，我們可以用來分類圖像，玩某些類型的游戲或者將其應用到駕駛汽車等等。我認為，我們對于應該提供怎樣的感知還沒有很好的思路。

關于模塊化，現(xiàn)在有一個很強烈的觀點表示，我們不應該創(chuàng)建任何模塊化，而應該創(chuàng)建一個巨型神經(jīng)網(wǎng)絡，并對它進行端到端地訓練使其完成任務，這才是向前發(fā)展的最佳方式。這個觀點很難反駁，除非在樣本復雜性的基礎上，你或許可以說，如果想要在在這個巨型神經(jīng)網(wǎng)絡上實現(xiàn)強化學習，就需要大量的數(shù)據(jù)以及許多類似損壞的機器人系統(tǒng)等。

對此也僅有唯一一個答案：我們需要在里面構(gòu)建一些東西（才能降低樣本復雜性的需求），比如構(gòu)建一些結(jié)構(gòu)、構(gòu)建一些偏倚。從機器學習理論上來看，降低樣本復雜性的唯一方法就是以某種方式縮小假設空間——這可以通過內(nèi)部的偏見來實現(xiàn)。我們有各種各樣的理由認為，自然界為人類內(nèi)置了偏見。而卷積就是一種偏見，一種非常強烈、具有批判性的偏見。

所以我個人認為，我們需要尋找更多像卷積一樣，并且還能夠解決其他方面的推理問題的東西。在與成像非常相似的空間推理等問題上，卷積給我們帶來了很大的幫助。我認為，類似的其他想法，例如向前搜索、抽象概念以及目標等的存在都是非常重要的，但是人們往往不給這些想法萌芽的機會。

Lex Fridman：目標語義、目標空間中的類似于卷積的想法？

Leslie Kaelbling：是的，人們開始研究的圖卷積就是與一種關系表征相關的想法。我認為對于感知，研究者們接下來要實現(xiàn)的就是更好地理解感知是如何產(chǎn)生的。之后，我們才能更好地知道要對輸出做什么。但我們僅僅試圖去創(chuàng)建一個集成智能體，而實際上并不清楚感知的輸出應該是什么，也不知道這些輸出怎樣和其他東西掛上鉤。因此，我認為現(xiàn)在迫在眉睫的問題就是，我們能夠創(chuàng)建什么樣的架構(gòu)，比如另一個能像卷積網(wǎng)絡那樣允許我們在上面實現(xiàn)高效學習的真正非常厲害的架構(gòu)。

Lex Fridman：您對于感知目前的發(fā)展現(xiàn)狀令人信服的描述，我也贊成。您在教授一門關于智慧的集成的課程，那您認為怎樣才能創(chuàng)建擁有人類智能水平的機器人？

Leslie Kaelbling：我不清楚我們到底是否知道該怎樣創(chuàng)建這樣一個機器人。

Lex Fridman：那您認為機器人需要擁有自我意識、知覺、倫理道德嗎？

Leslie Kaelbling：我沒怎么考慮過機器人是否需要知覺這一問題，即便是大多數(shù)關注這個的哲學家都知道，我們可以擁有行為表現(xiàn)像人類但沒有知覺的僵尸機器人。在這個時候，我們會慶幸并不關心這個方面的問題。

Lex Fridman：您是否有從技術(shù)角度來思考過自我意識對于機器人的作用？

Leslie Kaelbling：但是自我意識到底意味著什么呢？你需要實現(xiàn)的是讓某些系統(tǒng)的部分觀察系統(tǒng)的其他部分，然后告知我們是否運行良好，這是很關鍵的。它們是否具有自我意識，則取決于我們給「擁有自我意識」設定了怎樣的標準。但顯然，比如說某行代碼計算出程序執(zhí)行的次數(shù)，這其實也是一種自我意識。所以這里的邊界挺模糊的，可以要求很高、也可以要求很低，我們還在摸索一個合理的標準。

Lex Fridman：您在很多維度上都了解得很長遠，但是最吸引該領域研究者的一個研究方向則是讓機器人的智能達到人類水平。

Leslie Kaelbling：但是現(xiàn)在對于我來說，最有吸引力的研究方向應該是研究如何選擇把哪些東西構(gòu)建在系統(tǒng)中、把哪些東西交給系統(tǒng)去學習。如果你問我多少年后機器人的智能可以達到人類水平，我甚至都不會參與這一討論，因為我認為我們錯過了很多想法，也不知道到底需要多少年去實現(xiàn)這一目標。

Lex Fridman：我不問您多少年后可以實現(xiàn)，但是我可能需要問，對于我們目前已實現(xiàn)的成就，您印象比較深刻的是哪個？您認為什么才是不錯的智能測試？您認為面向機器人自然語言的圖靈測試等測試基準怎么樣？是否思考過這些問題？

Leslie Kaelbling：我比較反對這些測試基準。我認為我們花了太多的時間在爭論哪些事情對于提高機器人的性能更好上。

Lex Fridman：測試基準、數(shù)據(jù)集或者圖靈測試挑戰(zhàn)其實可以將研究者們匯聚起來，激勵他們創(chuàng)建出表現(xiàn)更好的機器人，因為他們都希望在比賽中獲勝，例如自動駕駛領域的 DARPA 挑戰(zhàn)賽。您怎樣看待它們的價值呢？

Leslie Kaelbling：許多人都認為這些比賽是具有激勵性的，是很好的，但是我個人認為它們是反激勵性的。不過你們或許能夠獲得一段有趣的時期——一群聰明的人在比賽中獲得了超大的動力，并最大限度地發(fā)揮出腦力，有時候可能也會產(chǎn)生很酷的想法，可供我們事后咀嚼。這對我來說并不是一件好事，不過我也并不反對大家這么做。

Lex Fridman：這就跟您之前所說的，某件事以外的所有其他事情都會讓它變得更好。下面我們跳過一些問題。您創(chuàng)立了《機器學習研究雜志》（Journal of Machine Learning Research，JMLR）并擔任其主編，那出版這一期刊是基于怎樣的契機？您如何看待當前機器學習和人工智能領域的出版模式？

Leslie Kaelbling：好的。我之所以會創(chuàng)立《機器學習研究雜志》，故事源自于當時由 Kluwer 創(chuàng)立的叫做《機器學習》的期刊。當時我也是編輯委員會中的一員，我們常常會召開一些會議，向 Kluwer 抱怨，對于圖書館來說雜志太過昂貴并且人們難以在上面發(fā)表文章。當時，我們真的希望為這部分人解決這些問題，不過其他人永遠只會表示自己的同情而會采取任何行動，所以我們就決定創(chuàng)立一份新雜志。當時也有一份雜志叫做《人工智能研究雜志》，這份雜志也采取同樣的出版模型，并且以這一模型存在了 5 年左右的時間，也發(fā)展得非常好。

我猜想我們當時都并不知道怎么創(chuàng)立一份雜志，好在這件事情本身并不難。于是，《機器學習》期刊編輯委員會中 75% 的成員都從那里辭職，來共同創(chuàng)立了這份新雜志。

Lex Fridman：所以新創(chuàng)立的這份雜志更加開放？

Leslie Kaelbling：是的，《機器學習研究雜志》是完全開放的。當時我有一個博士后學生 George Kennedy 就想要呼吁這些雜志免費向所有人開放。

由于《機器學習研究雜志》既沒有版面費用，也沒有訪問限制，當時很多人都對這本雜志心存懷疑，認為這是一場欺詐，覺得這是不可能發(fā)生的事情。運行這份雜志期間，我在很長一段時間都沒有存款，因為需要支付合作律師和 IP 地址的費用，當時雜志一年的運營費用大概為幾百美元，現(xiàn)在的花費可能更高些但是也沒有高很多。

之所以一切免費，是因為我覺得計算機科學家所具有的能力和自主性，是其他領域的科學家們所不具備的。我們教授們自己很熟悉這些技術(shù)，學生也熟悉，我們也認識那些有能力制作和破解網(wǎng)站的人，大家一起動手，一下午時間就能做一個免費開放的學術(shù)網(wǎng)站出來。所以基礎設施對我們來說不是問題，但對于其他領域的人來說就是比較難實現(xiàn)的事情。

Lex Fridman：所以這一訪問開放的期刊不需要聲望、也不需要任何其他論文也可以得以出版？

Leslie Kaelbling：事實證明，確實不需要聲望。

Lex Fridman：在很早之前，我不記得具體的時間了，當時我評論了一篇您也評論過的論文，記得當時讀到您評論說：這篇論文寫得非常出色，對您產(chǎn)生了較大的影響，并影響了您未來的評論方式。當時您并不贊成我的觀點，但是您將我的評論修改得更好了。這其實可以看出，當時雜志的整個評論過程是存在缺陷的，您認為該怎樣才能改進這一過程呢？

Leslie Kaelbling：實際上，這份雜志創(chuàng)立之初，我想要做一些完全不同的事情，但是最終沒有實現(xiàn)，這是因為似乎我們更需要的是一份傳統(tǒng)的記錄雜志，所以基本上，我們把這份雜志打造得跟一般的雜志一樣，只不過對外開放訪問了。當然了，「出版」什么東西現(xiàn)在越來越變得稀松平常，你隨便在哪個學術(shù)文本存儲網(wǎng)站傳一篇文章就算是發(fā)表了，并且對于所有的這些內(nèi)容，我隔天就可以將它們進行出版。因此，將這些內(nèi)容對外開放是沒有任何障礙的，不過我們依舊需要進行策劃以及評估，而我沒有時間去閱讀所有的檔案，一般認為出版社會公眾所稱贊的文章就足夠了。

這樣的話，你可以說我們不再需要任何期刊了，大家只需要把論文傳到學術(shù)網(wǎng)站上去，然后人們就可以上傳或下載論文，你的簡歷也就會顯示文章獲得了多少個稱贊。同時我認為期刊在仔細閱讀和評注方面也存在其價值。在 Twitter 或者 Reddit 上很難辨別讀者對論文是支持、否定還是爭議的態(tài)度，以及他們是否知道他們在談論的是什么。所以我認為期刊的第二個目的是，判斷我應該重視那些觀點。

我不知道如果我有無限的時間，我是否也不會去做這些，因為我希望讓機器人來做這部分工作。但如果我覺得我傾向于在出版方向上做更多的事情，我會去實現(xiàn)我最開始想做的另外一件事情，那就是將我重視并且非常清晰的一些人的觀點匯聚起來，至于是對外公開還是私人保留，這個我不確定。我們可能不會出版所有的評論，僅僅將為非常出色的論文所寫的評論對外開放。

如果一些論文得到 Leslie 的朋友們的評論，并且論文觀點得到夸獎，論文作者也可以將其寫入簡歷中：Leslie 的朋友們給了我的論文打了五星好評。這就可以說明論文就跟雜志所收錄的論文一樣出色。我認為我們應該將很好的評論對外開放，并以某種方式對這些評論進行組織，但當時我真的不知道該怎么做。

Lex Fridman：其實您可以借鑒電影領域的互聯(lián)網(wǎng)電影資料庫（IMDb），那里匯聚了電影評論員，他們會寫影評，不過資料庫匯中會定期更新非評論員寫的影評，這兩個部分是分開的。

Leslie Kaelbling：我喜歡公開評論，我認為了解這個過程很有趣。

Lex Fridman：這也許是推進論文評論的一個正確方向，但是可能仍然無法像評論電影或視頻游戲那樣吸引人。這是我的個人觀點，可能聽起來有些愚蠢，但是執(zhí)行評審的趣味和輕松程度取決于用戶界面，而作為一位評論家的效率，則意味著向一位優(yōu)秀的評論家邁進了多遠，這些人為因素會起到作用。

Leslie Kaelbling：現(xiàn)在給論文寫優(yōu)秀的評論是一項大投資，現(xiàn)在可以看到的論文數(shù)量非常多。每年有 3000 多篇新論文，雖然我不知道每年會新出多少電影，但是現(xiàn)在我認為數(shù)量要比每年新出的機器學習論文要少。

我是一個老年人，所以不可避免地會說現(xiàn)在的事情都變化得太快了，像陷在泥巴中一樣執(zhí)著。我認為現(xiàn)在研究者們的眼光變得越來越短視，比如學生們想要發(fā)表大量論文，他們認為這樣才是令人興奮、有價值的事情，然后拍拍腦袋寫論文，諸如此類。雖然其中的一些工作成果是不錯的，但是我擔憂的是，這種做法會把那些花兩年的時間來思考某個問題的研究者逼走。

在我們那個年代，我們做研究并不發(fā)表論文，你可以花數(shù)年時間來研究論文，你可以選擇研究一個非常難的問題，然后花費大量時間來不斷研究、咀嚼這個問題，當你去寫作完成論文時，也會經(jīng)歷一段艱巨的時期。我不認為每個人都需要按照這種模式進行研究，但是我認為現(xiàn)在也有一些難度非常高的問題需要研究者以更加長遠的眼光來從事這些問題的研究。然而我們現(xiàn)在完全沒有激勵研究者們采用這種研究方式，這是我所擔心的地方。

Lex Fridman：在目前的情況下，對于 AI 未來的發(fā)展您有什么期望和擔憂？AI 已經(jīng)經(jīng)歷了多次寒冬、起起伏伏，您認為還會有下一次寒冬到來嗎？您是否對于創(chuàng)造出如您所說的機器人更抱有期待？

Leslie Kaelbling：我認為經(jīng)歷這個周期是無法避免的，但是這個起伏的周期曲線實際上是一次比一次高的，就像你用一個有噪聲的優(yōu)化器優(yōu)化某個函數(shù)曲線一樣。顯而易見，機器學習的出現(xiàn)對于人工智能領域的發(fā)展，意義深遠且重大，毫無疑問，目前人工智能的發(fā)展是比之前更高的。當然，我也認為人們高估了人工智能，吹的牛皮太大，投資者們最終會說，「當初說得那么好聽，怎么最后什么都沒做到」。這些泡沫未來可能會破滅。但我覺得在實現(xiàn)達到人類水平的人工智能的過程中是不可能一帆風順地一直向上的。

Lex Fridman：您對于 AI 所存在的威脅是否有短期或者長期的擔憂呢？或許短期的擔憂會比較少，但是關于將會有更多機器人替代人類工作的擔憂呢？

Leslie Kaelbling：我們可以探討一下效用問題。實際上我之前與一些軍事倫理學家有過一次有趣的交流，他們希望跟我探討自動核武器的問題。他們是非常有趣、聰明并且接受過良好教育的一群人，但是他們對于人工智能和機器學習知之甚少。他們問我的第一個問題就是，你研發(fā)的機器人有做過什么你沒有預料到的事情嗎？我情不自禁地笑出聲，因為稍微了解過機器人的人都知道，它們做不出來。而我意識到，他們對于我們怎樣對機器人編程的理解是錯誤的，他們認為我們對機器人編程就像給樂高的 Mindstorm 機器人編程一樣，執(zhí)行前進一米、左轉(zhuǎn)、拍照這些動作。這樣的編程方式固然也是對的，但這種機器人如果做一些預料之外的事情，就有點奇怪了。

事實上，我認為這應該成為我一項新的教育任務，如果我需要跟非專業(yè)人員交流，我要試圖去教給讓他們理解：我們控制的其實是機器人中至少一個或多個層次的抽象，同時機器人還存在假設層，可以是規(guī)劃空間或者分類器空間，此外還有一系列答案和目標函數(shù)，然后我們使用一些優(yōu)化方法，在各個層級優(yōu)化解決方案，并且我們不知道最終產(chǎn)生的解決方案是什么。我認為溝通這些非常重要，或許其中有一些人了解相關知識，但我還是認為這種溝通這門學科是必不可少的。

現(xiàn)在有很多人在探討價值對齊的問題，我們可以確定的是，當機器人或者軟件系統(tǒng)的能力越來越強時，它們的目標會與人類的目標更加一致，或者說二者間的目標會以某種方式互相兼任，也可以說當它們與我們有不同的目標時，我們也可以用一種很好的方式去進行調(diào)和。

因此我認為思考這些術(shù)語非常重要，比如說，你無需被機器人世界末日論所嚇倒，而是思考價值對齊的目標函數(shù)的重要性。每一位從事優(yōu)化工作的研究者都知道，必須要謹慎考量最終期望得到的東西，比如說研究者們有時候可能獲得了最佳的解決方案，然而最終發(fā)現(xiàn)目標方向是錯誤的。

對于我來說，即便在最短時期內(nèi)，務實也是至關重要的問題，任何一位從算法工程師到目標函數(shù)工程師的研究者，這一問題都完全有可能發(fā)生，并且會改變我們的思維和方法論。

Lex Fridman：所以可以說，您的研究生涯始于斯坦福的哲學專業(yè)，現(xiàn)在又回歸到哲學中來。

Leslie Kaelbling：我在上課時也提到過，當機器學習研究者在設計目標函數(shù)時，需要「戴上兩個帽子」，一個「帽子」是他需要實現(xiàn)的目標是什么；另一個「帽子」則是他的優(yōu)化器能夠?qū)?yōu)化實現(xiàn)到什么程度，這都是需要考慮和衡量的要點。

關于機器人會取代人類工作這一擔憂，我能理解這件事情非常重要，但我不太了解社會學、經(jīng)濟學，也不是很了解人類，所以我不知道該怎么看待這個問題。

Lex Fridman：確實，這個問題涉及到社會學和經(jīng)濟學的方面，很難去講清楚。

Leslie Kaelbling：雖然這個問題并不是我的專長，但我還是認為人類思考這個問題很有必要。

Lex Fridman：您認為對于人工智能領域以及您自己而言，短期內(nèi)哪個領域的研究會是最令人興奮的？

Leslie Kaelbling：我之前講述過如何設計智能機器人的事情，智能機器人是我們這個領域中大部分人都想要實現(xiàn)的目標，而大家面臨的問題則是，機器人怎樣實現(xiàn)最高效的策略？我們可以嘗試很多不同的極端方案，其中一個非常極端的方案就是做內(nèi)?。↖ntrospection），然后編程，這種方法現(xiàn)在的表現(xiàn)還不是很好；另一個極端的方案是我們采用了一大堆神經(jīng)網(wǎng)絡，然后訓練它們?nèi)ネ瓿扇蝿?，我同樣也認為這個方案無法奏效。

在這個過程中面臨的一個問題就是找到中間立場，這個問題同樣也不是技術(shù)上的問題，僅僅是關于怎樣找到最佳實現(xiàn)方法的問題。對于我來說，它很明顯是學習和非學習的一種組合，需要考慮的怎樣構(gòu)建這個組合的內(nèi)容。這也是對我最具有吸引力的一個問題。

Lex Fridman：最后一個問題是，在科幻小說中，您最喜歡的機器人是哪個？比如說《星球大戰(zhàn)》中的 R2D2 機器人或是更加現(xiàn)代化的 HAL 機器人。

Leslie Kaelbling：我個人更加關注的是研究機器人的過程。實際上我研究機器人是因為這個研究方向很有趣，而并不在乎我能夠研發(fā)出怎樣的機器人。

Lex Fridman：今天這場美麗的對話就到此結(jié)束了，非常感謝您今天的發(fā)言。

Leslie Kaelbling：當然，今天的對話很有趣。

（完）

IJCAI 2019 會議召開之前，特邀報告講者名單將陸續(xù)公布，雷鋒網(wǎng) AI 科技評論作為 IJCAI 2019 的媒體特別合作伙伴，也將陸續(xù)為大家?guī)砀魑惶匮v者的相關報道。屆時，雷鋒網(wǎng) AI 科技評論還將奔赴現(xiàn)場為大家?guī)砭蕡蟮?，敬請期待?/p>

雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。