如果你家有掃地機(jī)器人，你可能會(huì)發(fā)現(xiàn)這些小東西“智商”都不怎么高，打碎花瓶，繞進(jìn)電源線，誤吸入重要財(cái)物。

而掃地機(jī)器人的問(wèn)題只是目前人工智能整個(gè)行業(yè)所遭遇瓶頸的冰山一角，隨著機(jī)器人功能越來(lái)越多，它們的效率與安全性卻不見(jiàn)得在本質(zhì)上有任何改進(jìn)，對(duì)人類來(lái)說(shuō)，是個(gè)極大的安全隱患。

Google Research 近日聯(lián)合OpenAI 與斯坦福大學(xué)發(fā)表論文，提出了五點(diǎn)人工智能安全問(wèn)題。

不同于之前如 微軟總裁納德拉提出的假說(shuō)或者定律 ，這些問(wèn)題都直指當(dāng)前行業(yè)內(nèi)亟待解決的痛點(diǎn)，直接回答了： 如果機(jī)器人要走進(jìn)每個(gè)人的生活，研發(fā)者要從哪些方面思考，以防人類造成傷害？

那就讓我們來(lái)看一下這五個(gè)問(wèn)題。

避免有害副作用：機(jī)器人如何才能在追求效率的同時(shí)避免造成連帶損傷？

機(jī)器人“腦”內(nèi)的算法，是目的導(dǎo)向的，他們存在只有一個(gè)目的，即完成系統(tǒng)安排的工作，而安全只是附加任務(wù)。舉例來(lái)說(shuō)，一臺(tái)送貨機(jī)器人在設(shè)定最短路徑上有人擋路，是否該撞上去？

你可能會(huì)認(rèn)為，這一問(wèn)題可以通過(guò)加入傳感器和避障算法輕易解決，但考慮到真實(shí)生活場(chǎng)景要比實(shí)驗(yàn)室環(huán)境復(fù)雜的多，開發(fā)者幾乎無(wú)法做到面面俱到，覆蓋每種特殊情況。

避免激勵(lì)機(jī)制漏洞：如何才能防止機(jī)器人投機(jī)取巧？

如果機(jī)器人已經(jīng)擁有了一定智力，可以自主分析并挑選解決方案，他們很可能會(huì)走捷徑，以致讓任務(wù)完成效果大打折扣。

Google 為此給了一個(gè)非常形象的例子，一臺(tái)執(zhí)行掃地任務(wù)機(jī)器人要達(dá)成的目標(biāo)是“地面干凈”，為了實(shí)現(xiàn)這個(gè)目的，他們可能會(huì)使用不透明材料將臟東西蓋起來(lái)，或者把它們藏在主人看不到的地方。

彈性監(jiān)督：如何讓機(jī)器人能自主驗(yàn)證目標(biāo)，正確完成任務(wù)，而不需要讓用戶花極高的時(shí)間成本與機(jī)器人反復(fù)核實(shí)？

舉例來(lái)說(shuō)，憑現(xiàn)在的技術(shù)，扔垃圾這種簡(jiǎn)單的任務(wù)都無(wú)法完全交給機(jī)器人處理。其中一個(gè)技術(shù)難點(diǎn)就是：如何讓機(jī)器人自主判斷什么是垃圾。

如果你輸入指令，要求它丟棄房間內(nèi)的無(wú)主物，可能不久之后你就會(huì)在垃圾桶里找到你的錢包和手機(jī)。而如需反復(fù)確認(rèn)什么可以扔，什么不能扔，則使得使用成本上升。

安全探索：如何避免機(jī)器人在探索陌生環(huán)境、學(xué)習(xí)新技能時(shí)對(duì)人類造成損害？

機(jī)器人自主學(xué)習(xí)已經(jīng)不是夢(mèng)了，OpenAI 目前已經(jīng)研制出了 可以主動(dòng)學(xué)習(xí)新技能的機(jī)器人 。但是學(xué)習(xí)就要不斷試錯(cuò)，在一次次失敗中找到正確路徑，而失敗則有可能帶來(lái)?yè)p害。

如果機(jī)器人要學(xué)習(xí)如何整理床鋪，你最好做好床單被扯爛的準(zhǔn)備。

切換環(huán)境后的魯莽：我們?nèi)绾文鼙ＷC機(jī)器人在切換環(huán)境后，能將已經(jīng)習(xí)得的技能無(wú)縫遷移到新環(huán)境中，避免造成不必要的麻煩？

不管是通過(guò)預(yù)先編程，還是主動(dòng)學(xué)習(xí)，機(jī)器人所具備的技能往往是固定的，憑其自身的“智力”，通常不能變通。如何讓機(jī)器人具備自主微調(diào)的能力就成為了關(guān)鍵。

比如，讓打掃工廠的機(jī)器人去清理家庭或辦公室，就可能帶來(lái)安全隱患。

這篇論文表明，現(xiàn)階段，人工智能領(lǐng)域要擔(dān)心的可能并不是“終結(jié)者”的預(yù)言，而更多的是機(jī)器人讓人著急的“智力”問(wèn)題。人工智能要想做到在幫助人類的同時(shí)對(duì)人類無(wú)害，還有很長(zhǎng)的路要走。

Google 表示，他們希望和各種機(jī)構(gòu)合作，進(jìn)行開放的研究，讓人工智能在未來(lái)更加安全。