圖片來源@@視覺中國

文 | 腦極體

人類有時(shí)理性。

為了讓機(jī)器人學(xué)習(xí)技能，對它們進(jìn)行千錘百煉、花式虐待，都是常有的事。

有時(shí)也很感性。

盡管我們也知道銅腔鐵臂的機(jī)器人并不會(huì)因?yàn)楸粨舸蚨杏X到疼痛，但依然希望能通過更溫和的方式來讓它們成長，科學(xué)家們想方設(shè)法試圖讓它們看看YouTube視頻就能學(xué)習(xí)，或是在模擬環(huán)境里展開競技……

除了同理心作祟，還有點(diǎn)未雨綢繆的小機(jī)智在里面。萬一哪天某天機(jī)器人覺醒了，發(fā)現(xiàn)這些被人類虐待的“黑歷史”，“黑化”了怎么辦？電影里的機(jī)器人革命不都是這么來的嘛……

但，如果替人類反思的不是我們自己，而是AI呢？

當(dāng)AI開始管理內(nèi)容，它會(huì)違背規(guī)則、保護(hù)同類嗎？

8月21人，YouTube用戶Jamison Go最近收到了一封來自官方的通知，平臺(tái)自動(dòng)刪除了他上傳的戰(zhàn)斗機(jī)器人比賽視頻，原因是算法檢測到該內(nèi)容對動(dòng)物施以折磨或強(qiáng)迫動(dòng)物對抗。當(dāng)時(shí)，機(jī)器人喬普正在和另一個(gè)機(jī)器人作戰(zhàn)。

Jamison Go在自己的Facebook賬號上寫道：“今天是一個(gè)悲傷的日子。全世界的機(jī)器人愛好者都發(fā)出痛苦的哀鳴。”

他并不是一個(gè)人。上一季戰(zhàn)斗機(jī)器人比賽的參賽者莎拉·波霍雷基也在YouTube上受到了相同的打擊，這很快引發(fā)了全世界機(jī)器人相關(guān)內(nèi)容頻道的關(guān)注。許多像BattleBots和RobotWars這樣的節(jié)目站出來，指責(zé)了YouTube這個(gè)將機(jī)器人戰(zhàn)斗檢測為虐待動(dòng)物的新算法。

之所以認(rèn)為是AI在搗亂，是因?yàn)槿祟悗缀醪豢赡茉谟^看這些視頻時(shí)將機(jī)器人認(rèn)成動(dòng)物，畫面中也并沒有出現(xiàn)人類和其他生物，被刪除的視頻并沒有在描述、標(biāo)簽甚至標(biāo)題里提到機(jī)器人名字這樣容易被誤認(rèn)為是生命體的文本。而且，YouTube自身對于機(jī)器人戰(zhàn)斗視頻并沒有明確的禁令。這不，第二天就有人工團(tuán)隊(duì)重新審查并恢復(fù)了大部分被誤刪的視頻。看來，將其錯(cuò)誤標(biāo)注并刪除的只能是算法自己干的了。

事情雖然告一段落，但AI開始擅自停止以機(jī)器人同胞們?yōu)槟繕?biāo)的暴力，這讓不少人陷入了“機(jī)器覺醒”的陰謀論里。甚至有人開始猜想，YouTube是不是被AI接管了，讓算法做一切決定？所謂的“人工審核”到底是不是真實(shí)存在的？

又或者，你永遠(yuǎn)不知道人工智能何時(shí)會(huì)找到另一種方法來保護(hù)它的機(jī)器人兄弟。

AI有情？真的是只是一時(shí)眼花

那么，從技術(shù)的角度講，錯(cuò)誤刪除視頻到底是無意識(shí)地誤傷，還是AI們的自我保護(hù)呢？

目前來看，答案當(dāng)然是前者。因?yàn)椋诶斫庖曨l這件事上，AI真的還沒有大家想象的那么強(qiáng)。

2017年，谷歌推出了一款視頻智能（Video Intelligence）的API，可以自動(dòng)識(shí)別視頻中的物體和內(nèi)容。這在當(dāng)時(shí)是里程碑式的應(yīng)用，因?yàn)閅ouTube、Facebook、新浪微博、快手等等擁有視頻產(chǎn)品的平臺(tái)，無不深受不良內(nèi)容的困擾。

一位泰國男子在Facebook上直播殺害親生女兒然后自殺的視頻，在網(wǎng)站上掛了將近24個(gè)小時(shí)，播放量超過25萬次，但其全球?qū)⒔?000人的人工審核團(tuán)隊(duì)依然無法在第一時(shí)間在浩如煙海的視頻流里立即定位并刪除這些不良內(nèi)容。

Facebook屢屢因擴(kuò)散不良信息而受到政府審查的同時(shí)，YouTube也在為視頻審查帶來的業(yè)務(wù)危機(jī)而頭痛。因?yàn)樵缦萗ouTube的智能廣告推薦算法，就將沃爾瑪、百事可樂、電信運(yùn)營商Verizon等廣告主的貼片廣告，分發(fā)到了一些宣揚(yáng)仇恨和恐怖主義的視頻上……金主爸爸們很快用腳投票，這讓YouTube乃至整個(gè)Google的廣告網(wǎng)絡(luò)都感受到了壓力。

雖然Google聲稱，這些問題只影響到了“非常非常非常少”的視頻，但顯然唯有行動(dòng)才能打消用戶與廣告商的顧慮。

所以，“視頻智能”技術(shù)發(fā)布的時(shí)候，時(shí)任谷歌云機(jī)器學(xué)習(xí)與人工智能首席科學(xué)家的李飛飛曾經(jīng)這樣形容它——通過視頻識(shí)別技術(shù)，“我們將開始給數(shù)字星空中一個(gè)黑暗的物質(zhì)照亮光芒。”

如今，兩年時(shí)間過去了，網(wǎng)絡(luò)內(nèi)容的黑暗一角真的被AI照亮了嗎？成果當(dāng)然是值得肯定的，比如隨著新算法模型的不斷突破，谷歌的BERT訓(xùn)練方法可以將審查的人工勞動(dòng)量從12,000小時(shí)減少到80小時(shí)。

但同樣的，各大內(nèi)容平臺(tái)的人工審核團(tuán)隊(duì)也在不斷擴(kuò)張。顯然，機(jī)器方法的引入并沒有如預(yù)期中那樣幫助平臺(tái)提質(zhì)增效。視頻理解，依舊是一朵未能從應(yīng)用層面被摘下的高嶺之花，它具體難在何處呢？

首先是真實(shí)環(huán)境下的行為識(shí)別（Action Recognition）。

目前的視頻行為識(shí)別模型，都使用動(dòng)作分割好的數(shù)據(jù)集進(jìn)行訓(xùn)練，像是 UCF101、ActivityNet、DeepMind 的 Kinetics、Google的AVA數(shù)據(jù)集等等。每個(gè)視頻片段包含一段明確的動(dòng)作，并被打上了明確且唯一的分類標(biāo)簽。但是真實(shí)環(huán)境中的視頻都沒有被預(yù)先切分，有時(shí)還會(huì)包含多人動(dòng)作等復(fù)雜場景，或是包含復(fù)雜的情緒、意圖，這些問題的處理難度都比人臉識(shí)別等明確定義的難以下，所以實(shí)際應(yīng)用時(shí)準(zhǔn)確率就會(huì)下降。

比如一只狗張開嘴巴，和一個(gè)人打開門，都會(huì)用“打開”(open)這個(gè)動(dòng)詞來標(biāo)注，并被放進(jìn)同一個(gè)分類中……從這個(gè)角度看，YouTube算法將機(jī)器人戰(zhàn)斗當(dāng)做動(dòng)物虐待，好像也挺符合它目前的“智商”的。

對視頻中的行為進(jìn)行分類就已經(jīng)很難了，如果再加上時(shí)序，就更讓AI發(fā)愁了。

因?yàn)閷τ趫D像中的物體，目前的技術(shù)已經(jīng)能做到很容易地進(jìn)行檢測和分割，然而生物行為的時(shí)序邊界往往是很不明確的，一個(gè)動(dòng)作何時(shí)開始、何時(shí)結(jié)束，動(dòng)作變化幅度太大等等，都很容易讓算法“眼花”。一方面，既要在大量連續(xù)幀之間解決時(shí)序冗余的問題，提高檢測速度；又要提高“眼力”，在運(yùn)動(dòng)模糊、部分遮擋等情況下也能精準(zhǔn)定位和識(shí)別，就在前不久Google又提出了新的基于Q-learning學(xué)習(xí)自適應(yīng)交替策略，就是在速度與準(zhǔn)確率之間尋求平衡。至少從這次“算法誤刪事件”看來，這條技術(shù)高山還需要工程師們持續(xù)向上攀爬。

另一個(gè)影響視頻理解技術(shù)進(jìn)程的，就是成本困境。相比圖像，訓(xùn)練視頻模型需要增加許多存儲(chǔ)、計(jì)算資源，對實(shí)時(shí)性的要求也更高，因此也比普通神經(jīng)網(wǎng)絡(luò)更難訓(xùn)練，目前賽道上的主力玩家就是Google、Facebook、百度、頭條等巨頭在角逐。想要讓更多開發(fā)者為技術(shù)進(jìn)階貢獻(xiàn)腦力，如何減輕訓(xùn)練負(fù)擔(dān)就成了不可忽視的工作。目前Google、百度都通過自家的開源平臺(tái)釋放了視頻理解算法模型和標(biāo)注好的數(shù)據(jù)集，一些運(yùn)算資源上的扶持政策也相繼露面，恨不得讓開發(fā)者們“拎包入住”……

所以從技術(shù)層面來看，視頻理解注定是無數(shù)人苦心科研的點(diǎn)滴心血累計(jì)，才能積累成撬動(dòng)整個(gè)行業(yè)的能量，距離想象中的“AI機(jī)器人抱團(tuán)”還有很長的路要走。

與智能機(jī)器共生，人類做好準(zhǔn)備了嗎？

只要稍微想一想，就能明白算法只是無心之失，畢竟就算它未來真的可能向著自己機(jī)器人大兄弟，現(xiàn)在也不具備那個(gè)業(yè)務(wù)能力啊。這么簡單的事兒，為什么還能被“節(jié)奏大師”們引發(fā)一陣黑客帝國式恐慌呢？

原因之一，恐怕是大多數(shù)人對于《機(jī)器人打擂臺(tái)》這種格斗節(jié)目或競技比賽還是不甚了解，并不知道機(jī)器是在通過自由對抗提升對復(fù)雜環(huán)境和意外的靈活應(yīng)變能力，使它們在硬件和智能程度上不斷向應(yīng)用進(jìn)階。

對于普通人來說，就看到一群機(jī)器人刀劈斧砍，互相傾軋，跟斗獸場取樂似乎并無區(qū)別，這就很容易產(chǎn)生移情效應(yīng)，將自己的同情心理釋放到算法上——“人看了都想打人，AI看了肯定更生氣”，研究人員也沒少因?yàn)閷C(jī)器人拳打腳踢而登上頭條……所以這次因YouTube下架事件受到影響的Maker's Muse幕后制作人Angus Deveson，就在一個(gè)聲援視頻中公開宣傳：“戰(zhàn)斗機(jī)器人節(jié)目是教育和展示工程學(xué)魅力的絕佳工具”，以期讓更多人改變對機(jī)器人節(jié)目的認(rèn)知。

而另一個(gè)比較隱藏的憂慮，則是對于“AI導(dǎo)向”的社會(huì)焦慮。

今天哪怕是偏遠(yuǎn)如非洲的人群，恐怕也無法否認(rèn)，整個(gè)社會(huì)運(yùn)轉(zhuǎn)不僅僅由人類組成，也有越來越多的機(jī)器參與進(jìn)來，從Facebook上的一舉一動(dòng)，到亞馬遜流域猿猴的生存環(huán)境，智能機(jī)器正在成為人類和人類、人類和社會(huì)之間必不可少的媒介。

如今，人類很樂意交給AI的事情往往是那些自己不愿去做或者效率低下的事情，比如審核涉黃涉爆的網(wǎng)絡(luò)內(nèi)容。未來當(dāng)所謂的“奇點(diǎn)”，也就是人工智能的智慧超過人類的智慧，真正來臨的時(shí)候，智能系統(tǒng)會(huì)幫助人類來擔(dān)當(dāng)社會(huì)管理者的角色，那時(shí)，人類何以重新定位自身在社會(huì)中的位置，還能夠自主選擇嗎？這種身份焦慮并沒有一個(gè)清晰的解決方案。

許多研究者都告訴大眾“車到山前必有路”，坐在車?yán)锩裳巯蚯暗娜酥缓孟馳ouTube“AI主導(dǎo)”這樣的事故下時(shí)時(shí)驚惶。這里，或許我們在追逐AI的時(shí)候，也需要早日開始求解兩個(gè)問題：

第一，AI上位如此迅速，大眾認(rèn)知教育與倫理建設(shè)到位了嗎？

第二，如果沒有，當(dāng)算法與用戶之間產(chǎn)生沖突（這幾乎是必然的），科技企業(yè)在變革中如何自處？