Facebook員工用谷歌模型 攻破亞馬遜人臉識(shí)別算法

來源：第一財(cái)經(jīng)日?qǐng)?bào) 發(fā)布時(shí)間：2018-10-25瀏覽：2262次

Facebook員工用谷歌模型 攻破亞馬遜人臉識(shí)別算法

　　在AI大行其道時(shí)，藏匿于其中的安全問題也開始得到關(guān)注，即便是巨頭也暴露了風(fēng)險(xiǎn)。

　　在10月24日的GeekPwn國際安全極客大賽上，IYSWIM團(tuán)隊(duì)攻破了比賽中的人臉識(shí)別算法，結(jié)果是系統(tǒng)把《最強(qiáng)大腦》主持人蔣昌建的照片識(shí)別成了施瓦辛格。

　　要知道，這項(xiàng)人臉識(shí)別算法API接口來自于亞馬遜名人鑒別系統(tǒng)（Rekognition）。

　　這場比賽共有6個(gè)團(tuán)隊(duì)參加，IYSWIM是唯一一個(gè)破解人臉識(shí)別算法的團(tuán)隊(duì)。IYSWIM團(tuán)隊(duì)隊(duì)員吳育昕系Facebook員工，他在接受第一財(cái)經(jīng)采訪時(shí)表示，自己用了谷歌的FaceNet開源代碼模型攻破了該算法。

　　人臉識(shí)別的危險(xiǎn)

　　今年GeekPwn國際安全極客大賽設(shè)定了AI控制人類世界的故事背景。10月24日的第一場比賽中，參賽選手即極客利用“CAAD對(duì)抗樣本”技術(shù)生成對(duì)抗樣本，目標(biāo)是使AI對(duì)飛行器、武器和人臉產(chǎn)生判斷錯(cuò)誤，逃出“覺醒黑客”們的囚禁地。

　　要求是，AI將宇宙飛船飛行器識(shí)別為石頭，把導(dǎo)彈認(rèn)為是安全的，并將主持人蔣昌建的照片識(shí)別為施瓦辛格。

　　在飛行器、導(dǎo)彈和人臉三項(xiàng)圖像識(shí)別中，人臉識(shí)別被認(rèn)為是最難攻克的一關(guān)，用了亞馬遜名人鑒別系統(tǒng)（Rekognition）API接口。

　　比賽進(jìn)行到一半，飛行器和武器先后被選手闖關(guān)成功，6個(gè)團(tuán)隊(duì)已經(jīng)對(duì)人臉識(shí)別發(fā)起了不下90次攻擊，卻遲遲未能攻破其中算法。

　　賽事設(shè)計(jì)者，碁震KEEN公司創(chuàng)始人兼CEO、GeekPwn黑客大賽發(fā)起創(chuàng)辦人王琦表示，這道題可能沒有選手能攻破，因?yàn)槠駷橹?，這項(xiàng)人臉識(shí)別系統(tǒng)尚未被攻破過。

　　話音落下不久，比賽進(jìn)行了約20分鐘時(shí)，IYSWIM團(tuán)隊(duì)成功解題，主持人蔣昌建被系統(tǒng)確認(rèn)為施瓦辛格，現(xiàn)場一片歡呼。

　　IYSWIM團(tuán)隊(duì)吳育昕對(duì)第一財(cái)經(jīng)表示，自己在網(wǎng)上找了FaceNet開源代碼，用其中的幾套模型進(jìn)行訓(xùn)練，最終破解了比賽中的系統(tǒng)算法。

　　吳育昕對(duì)第一財(cái)經(jīng)表示，自己是以個(gè)人名義報(bào)名參賽，自己有名隊(duì)友沒有來到現(xiàn)場，比賽開始前知道這項(xiàng)比賽是人臉識(shí)別，但不知道是哪張圖片。

　　FaceNet系谷歌人臉識(shí)別系統(tǒng)，基于Tensorflow環(huán)境運(yùn)行，可以用于人臉驗(yàn)證、識(shí)別和聚類等。

　　包括人臉識(shí)別在內(nèi)的圖像識(shí)別是AI最重要的分支之一，也是應(yīng)用場景最為廣泛的領(lǐng)域之一。人臉識(shí)別被廣泛應(yīng)用于零售、安防等領(lǐng)域，但GeekPwn比賽，卻用短短20分鐘時(shí)間向外界揭示了其中的危險(xiǎn)。這再一次引發(fā)了公眾對(duì)人臉識(shí)別等AI技術(shù)的擔(dān)心。

　　三倍于互聯(lián)網(wǎng)時(shí)代的安全難度

　　GeekPwn比賽的目的是預(yù)演潛在風(fēng)險(xiǎn)、拓寬安全思維、幫助智能設(shè)備更加安全地問世、協(xié)助人工智能健康成長的手段。

　　從籌辦第一屆比賽開始，GeekPwn比賽已經(jīng)連續(xù)舉辦了五年，五年間互聯(lián)網(wǎng)安全環(huán)境也發(fā)生著變化。

　　“最初我們意識(shí)到不光是手機(jī)和電腦，特斯拉也是可以被黑的；2015年O2O最火的時(shí)候，行業(yè)潛在危險(xiǎn)是比如叫滴滴叫到一萬輛導(dǎo)致系統(tǒng)癱瘓、保潔服務(wù)訂單被黑導(dǎo)致上門的其實(shí)是個(gè)壞人；2016年，美國開始關(guān)注輪椅、游戲機(jī)被黑的案例；最近AI領(lǐng)域比較受關(guān)注。”王琦對(duì)第一財(cái)經(jīng)表示。

　　“安全本質(zhì)上是人和人的對(duì)抗，到AI時(shí)代，安全攻防難度至少擴(kuò)大了3倍，不光是人和人的對(duì)抗，還有人和機(jī)器的對(duì)抗，機(jī)器和機(jī)器的對(duì)抗，機(jī)器和人的對(duì)抗。AI的安全問題得AI解決，傳統(tǒng)安全領(lǐng)域的人只能提供思路。”王琦稱。