張駿峰,小蟻科技首席架構(gòu)師,負(fù)責(zé)小蟻AI圖像相關(guān)算法架構(gòu)。主要包括:小蟻智能攝像機(jī)的智能報警服務(wù)、小蟻智能行車記錄儀的輔助駕駛ADAS服務(wù)、小蟻運(yùn)動相機(jī)App的圖像風(fēng)格遷移技術(shù)以及小蟻微單App的圖像視頻編輯技術(shù)。其團(tuán)隊包括移動開發(fā)、前端、后臺、算法,成員分布在北京及以色列。張駿峰于2015年加入小蟻,此前,張就職于微軟長達(dá)14年,參與過Windows, .Net Framework, MSN, Office, Lync, Skype等產(chǎn)品的研發(fā)工作。
小蟻科技成立于2013年,是一家年輕的互聯(lián)網(wǎng)硬件企業(yè)。小蟻專注探索智能、可穿戴、移動化的新型視頻類智能電子產(chǎn)品的開發(fā),產(chǎn)品包括小蟻智能攝像機(jī)系列、小蟻行車記錄儀系列、小蟻運(yùn)動相機(jī)系列、小蟻微單相機(jī)等智能硬件產(chǎn)品,以及和谷歌合作的YI Jump 360°3D VR拍攝設(shè)備。同時,小蟻還有一系列的移動應(yīng)用和服務(wù),幫助用戶更好地使用小蟻設(shè)備。
CSDN:駿峰您好,小蟻的產(chǎn)品主打視覺。那么首先請您向大家介紹一下,在小蟻智能攝像機(jī)上,與AI相關(guān)的技術(shù)有哪些?
張駿峰:我們在小蟻智能攝像機(jī)上提供了多種智能服務(wù)。
智能報警
大部分的智能攝像機(jī)都提供移動偵測服務(wù)。當(dāng)攝像機(jī)檢測到畫面有大幅變動的時候,服務(wù)器會向用戶推送一條報警消息。
小蟻智能攝像機(jī)提供了同樣的服務(wù),同時,在報警的時候,向服務(wù)器上傳了一張圖片,和一段6秒鐘的視頻。這樣即使有人把攝像機(jī)拿走了,用戶還是可以看到發(fā)生了什么事。
傳統(tǒng)的移動偵測方案,靈敏度是一個很難解決的問題。如果靈敏度太高,用戶會收到過多的無效報警,可能會錯過重要信息。如果靈敏度太低,會有重要事件發(fā)現(xiàn)而用戶收不到報警的情況。我們提供了一個拉桿,用戶可以在高,中,低靈敏度選擇。
我們還提供了一種人形檢測的升級方案。當(dāng)用戶把這個升級方案的開關(guān)打開后,如果檢測到畫面有大幅改動,攝像機(jī)會繼續(xù)對畫面進(jìn)行進(jìn)一步檢測,只有在攝像機(jī)認(rèn)為畫面中有人,才會通知服務(wù)器給用戶推送報警信息。這樣可以大大減少誤報的情況。
小蟻智能攝像機(jī)還提供了寶寶哭聲檢測。如果攝像機(jī)檢測到持續(xù)的寶寶哭聲,也會向用戶推送報警。
手勢識別
小蟻智能攝像機(jī)還提供了手勢識別功能。當(dāng)用戶在攝像機(jī)面前做出“攤開手掌-然后握拳”的組合動作時,攝像機(jī)會自動錄制10秒視頻,推送給手機(jī)App用戶。我家小孩特別喜歡這個功能,有事沒事他就會試一下這個功能,然后給我表演一段僵尸舞。
選擇“攤開手掌-然后握拳”這樣一個組合,是為了減少誤觸發(fā)。
我們還在研究其他AI技術(shù),比如人臉檢測,人臉識別,物體識別,如何經(jīng)濟(jì)實(shí)惠地讓這些新技術(shù)給用戶帶來價值。
CSDN:除智能攝像機(jī)之外,小蟻也發(fā)售行車記錄儀。那么在小蟻行車記錄儀上,與AI相關(guān)的技術(shù)有哪些?
張駿峰:我們在小蟻行車記錄儀上為用戶提供ADAS智能安全提醒系統(tǒng),有效提供安全提醒并實(shí)時糾正駕駛行為。主要是兩個功能:車道偏移預(yù)警,前車距離監(jiān)測
車道偏移預(yù)警
當(dāng)車輛在高速上行駛時,如果行車記錄儀檢測到車輛偏移道路時,會提醒用戶車輛已經(jīng)偏移道路。
前車距離監(jiān)測
行車時,如果行車記錄儀檢測到離前車距離越來越近,超過一定閾值時,會提醒用戶注意保持車輛距離。
CSDN:在上述兩種產(chǎn)品的模型訓(xùn)練過程中,訓(xùn)練集與測試集從何而來,采用何種網(wǎng)絡(luò)及框架,在系統(tǒng)調(diào)優(yōu)方面有何技巧?
張駿峰:開源的數(shù)據(jù)集和開源代碼提供了基礎(chǔ)的訓(xùn)練集和測試集。
但是這樣的數(shù)據(jù)集訓(xùn)練出來的模型,放在小蟻的產(chǎn)品上,出來的效果不是很滿意。
我們是有一批內(nèi)測攝像頭,免費(fèi)送給用戶。用戶看到有意思的情況,分享給我們。內(nèi)測用戶很多是小蟻員工。我們根據(jù)用戶提供的數(shù)據(jù),調(diào)整模型,更新算法。
在實(shí)際產(chǎn)品上,我們采用的是一種“端+云”的混合方式。端上先做一部分篩選,云上再做進(jìn)一步的處理。
限于硬件的計算能力,端上目前是用傳統(tǒng)方法處理。
云上,我們現(xiàn)在使用的是YOLO模型,基于我們自己的情況,做了一些優(yōu)化。
CSDN:您認(rèn)為圖像分割、物體識別、目標(biāo)跟蹤這一系列技術(shù)的難點(diǎn)在哪里?
張駿峰:我們遇到的困難主要有兩點(diǎn):1.數(shù)據(jù),2.優(yōu)化
數(shù)據(jù)
雖然現(xiàn)在有很多開源數(shù)據(jù)集,但是,這些數(shù)據(jù)集是被用于學(xué)術(shù)界創(chuàng)新和研究的benchmark數(shù)據(jù)集。這些數(shù)據(jù)和真實(shí)場景下的用戶數(shù)據(jù)差別很大,場景也不足夠豐富。用開源數(shù)據(jù)訓(xùn)練出來的模型,識別率往往不夠理想。因此,真實(shí)場景下的海量標(biāo)注數(shù)據(jù)集是非常關(guān)鍵的。
小蟻產(chǎn)品的用戶量很大,用戶使用小蟻產(chǎn)品的場景各種各樣,環(huán)境也各不相同。有些用戶的使用場景也讓我們大開腦洞。限于我們的人力物力,我們優(yōu)先處理主要用戶場景。
優(yōu)化
如前所述,小蟻采用的是一種“端+云”的混合方式。不管是端還是云,優(yōu)化始終是我們大的挑戰(zhàn)。
在端上,由于硬件限制,無法運(yùn)行深度神經(jīng)網(wǎng)絡(luò),我們目前使用的是傳統(tǒng)方法。即使這樣,如何更快的處理視頻,也是很大的挑戰(zhàn)。
在云上,我們用GPU服務(wù)器運(yùn)行深度神經(jīng)網(wǎng)絡(luò),費(fèi)用很高。小蟻的用戶量很大,用GPU服務(wù)器處理,成本壓力很大。
我們迫切需要技術(shù)的發(fā)展,能夠把不影響準(zhǔn)確率太多的前提下,把處理成本降下來。
CSDN:除了小蟻目前正在做的,您對圖像跟蹤、識別這一系列技術(shù)的落地方向還有何構(gòu)想?
張駿峰: AI技術(shù)現(xiàn)在已經(jīng)很強(qiáng)大了。AlphaGo顛覆了人們對AI的理解。人臉識別的準(zhǔn)確率不斷被刷新。但是,AI用到真正的場景上,還是非常困難的。首先是數(shù)據(jù)問題。上面已經(jīng)討論過了。然后是模型的訓(xùn)練調(diào)參。這也是一個非常漫長痛苦的過程。然后是模型的驗證。周而復(fù)始。由于這些問題,AI技術(shù)現(xiàn)在做好一個場景,需要花費(fèi)很大的精力。
期待有一天,AI技術(shù)可以做到像使用AWS API這樣簡單。
CSDN:自從生成網(wǎng)絡(luò)火爆,圖像風(fēng)格遷移的APP便層出不窮,但似乎都還僅停留在娛樂層面,沒有向更深更實(shí)用的方向發(fā)展,那么小蟻?zhàn)鯝I藝術(shù)這個應(yīng)用的初衷是什么,下一步將踩在哪里?
張駿峰:小蟻除了硬件產(chǎn)品,還有很多相配套的移動應(yīng)用配合硬件產(chǎn)品。其中,小蟻運(yùn)動相機(jī)/小蟻微單App提供了完整的硬件控制,圖像視頻編輯,社區(qū)分享的流程。我們一直在思考如何讓用戶玩得更好。
2015年底我們已經(jīng)知道風(fēng)格遷移的論文,并且做了嘗試。那時候我們沒有GPU機(jī)器,用cpu來實(shí)現(xiàn)處理算法,處理速度非常慢。嘗試過一次后我們就放棄了。
Prisma的火爆,讓我們意識到在風(fēng)格遷移是可以有很好的移動用戶體驗的。我們開始使用購買GPU機(jī)器,用GPU來實(shí)現(xiàn)風(fēng)格遷移算法。幸運(yùn)的是,那時候已經(jīng)有好幾篇論文,把風(fēng)格轉(zhuǎn)換的速度提高了很多。我們在前人的基礎(chǔ)上,實(shí)現(xiàn)了我們自己的風(fēng)格遷移算法,應(yīng)用到小蟻的移動應(yīng)用上。
小蟻AI藝術(shù)上線的時候,正好趕上微信小程序即將上線的消息。我們立刻組織人員實(shí)現(xiàn)了小蟻AI藝術(shù)微信小程序版。由于時間緊迫,我們在后一個星期六才提交審核。幸運(yùn)的是,我們的小程序一次審核通過,得以在小程序放開的第一天,讓用戶使用。大部分使用過小蟻AI藝術(shù)微信小程序的用戶,反饋都是非常正面的。在幾乎沒有推廣的情況下,上線第一天獲得了超過20萬的使用次數(shù)。
我們早上線的小程序只能處理圖片。春節(jié)之后,我們更新了一版,新的小蟻AI藝術(shù)微信小程序可以處理小視頻。相信用戶用小蟻AI藝術(shù)處理過小視頻后,會有更深刻的感受。
現(xiàn)在的小蟻AI藝術(shù),從用戶體驗上看,還有很多局限性。首先,每一種風(fēng)格,合適于某一類圖片,F(xiàn)在的體驗,用戶必須手動把所有風(fēng)格都試一遍,才知道哪種風(fēng)格合適。某一種風(fēng)格,或者合適于人像,或者合適于風(fēng)景。對于同時有人有景的圖片,有時候需要做一個抉擇。
我們能提供的風(fēng)格模板也比較有限,用戶使用過一陣后,新鮮感減少。好的用戶體驗,是讓用戶任意指定一張照片,和一種風(fēng)格,我們能把這張照片按照用戶指定風(fēng)格處理。我們現(xiàn)在的技術(shù)還無法做到這一點(diǎn)。
CSDN:您覺得圖像風(fēng)格遷移技術(shù)的難點(diǎn)在哪里,如何落地,瓶頸是什么?
張駿峰:首先是網(wǎng)絡(luò)設(shè)計。各種論文上的方法,需要我們自己實(shí)現(xiàn)出來。但是按照論文方法實(shí)現(xiàn)出來后,我們發(fā)現(xiàn)效果不是很好,照片處理后有一種很臟的感覺。如何去臟,把照片弄干凈,花了我們很多時間。我們對終的效果還是很滿意的。
然后就是風(fēng)格的選取。選擇一個對大多數(shù)照片都合適的風(fēng)格,是一件很繁瑣的事情。我們一開始就定了一個方向:中國風(fēng)。事實(shí)證明,傳統(tǒng)中國風(fēng),顏色比較簡單,大部分的照片,遷移之后效果不太好。我們從兩個方面解決這個問題。一方面,我們把中國近代的著名畫家都找了一遍,試了無數(shù)張,后從中挑了8種風(fēng)格做為第一次的模板。同時,我們針對這8種風(fēng)格,每一種風(fēng)格都做了不同的網(wǎng)絡(luò)優(yōu)化。
整個過程中,我們發(fā)現(xiàn),選擇一種好風(fēng)格,非常花時間。我們也希望能有一種工具,讓我們很容易判斷這種風(fēng)格是否好。但目前為止,我們還沒有找到這樣的工具。
CSDN:小蟻AI藝術(shù)訓(xùn)練所用數(shù)據(jù)來自哪里,采用何種網(wǎng)絡(luò)及框架,在具體實(shí)施過程中有何技巧?
張駿峰:對我們來說,比較幸運(yùn)的是,我們已經(jīng)有一個小蟻社區(qū),用戶在社區(qū)上分享了很多照片。這些照片是我們的測試數(shù)據(jù)集。風(fēng)格的選取上,由于我們主打中國風(fēng),我們主要的目標(biāo)在中國近現(xiàn)代著名畫家的作品上。
網(wǎng)絡(luò)方面,主要是借鑒了李飛飛的網(wǎng)絡(luò),根據(jù)我們自己的風(fēng)格,做了不同的調(diào)整。框架我們用的是Torch。
我們花了很多時間處理去臟的問題。這個也是一個開發(fā)靈機(jī)一動想到的辦法,然后就好了。很神奇。
CSDN:小蟻AI藝術(shù)主打“中國風(fēng)”,請問為何選擇這種風(fēng)格?
張駿峰:因為我們不想和其他人一樣。很多App選擇了西方風(fēng)格。我們在中國,就應(yīng)該選擇中國風(fēng)。這種選擇讓我們多了很多開發(fā)時間,但我們認(rèn)為是值得的,也是我們?yōu)橹湴恋摹?/p>
CSDN:在產(chǎn)品的研發(fā)過程中,團(tuán)隊遇到過哪些問題?是如何解決的?
張駿峰:服務(wù)端,小程序初上線的時候,很多人用,給服務(wù)器很大壓力。我們使用的是阿里云的服務(wù)。在阿里云的HPC和阿里云OSS之間,對于高并發(fā)有一些問題。我們幾次反復(fù),和阿里云支持團(tuán)隊多次交流,后解決。
小程序方面,很多H5有的功能不能使用,也讓開發(fā)饒了一些彎路。比如,給圖片加水印,就試了好多條路,后是在服務(wù)器上實(shí)現(xiàn)的。
開發(fā)AI藝術(shù)小視頻的時候,也遇到了很多問題。視頻的方向是一個大問題。視頻的處理時間比圖片長很多,這使得我們不得不改架構(gòu)。
大部分問題都解決了。但是在小程序上如何保存處理后的視頻,我們始終沒有找到一個好方法,F(xiàn)在只能讓用戶在我們提供的H5頁面上處理保存視頻。
CSDN:小蟻的產(chǎn)品及技術(shù)如何與競品公司差異化?
張駿峰:聽用戶反饋,抓住每一個細(xì)節(jié),緊跟世界前沿,學(xué)習(xí)先進(jìn)經(jīng)驗,不斷進(jìn)步,努力做到更好。這是我們的原則。
CSDN:在管理方面,您有何獨(dú)到的帶隊方式?
張駿峰:給團(tuán)隊高度,讓團(tuán)隊用自己的辦法達(dá)到期望的高度,然后告訴我他們自己可以達(dá)到的高度(必須比我要求的高度更高)。向世界好看齊。