近日，搜狗分身技術(shù)團(tuán)隊(duì)聯(lián)合清華大學(xué)天工智能計(jì)算研究院賈珈老師團(tuán)隊(duì)共同發(fā)表的數(shù)字人技術(shù)論文《ChoreoNet:基于舞蹈動(dòng)作單元的音樂-舞蹈合成框架》被2020國際一流盛會(huì)ACM Multimedia錄用為長文。

（截圖來源：ACM Multimedia官網(wǎng)https://2020.acmmm.org）

ACM Multimedia專注于推進(jìn)多種媒體的研究與應(yīng)用，涉及人工智能、計(jì)算視覺、數(shù)據(jù)科學(xué)、深度學(xué)習(xí)、人機(jī)交互等多個(gè)新興領(lǐng)域，是中國計(jì)算機(jī)學(xué)會(huì)推薦的多媒體領(lǐng)域的A類國際學(xué)術(shù)會(huì)議，被認(rèn)為是多媒體技術(shù)領(lǐng)域奧運(yùn)級別的盛會(huì)。雖然鼓勵(lì)來自全球的各類機(jī)構(gòu)分享、交流最新研究成果，但該會(huì)議論文接受率很低，只有對日常生活和技術(shù)突破具有巨大影響潛力的研究項(xiàng)目才會(huì)被通過。

“攻克難關(guān)”備受認(rèn)可

音樂和舞蹈是與人們生活密不可分且高度相關(guān)的兩種藝術(shù)形式，近年來，“樂舞合成”也是業(yè)內(nèi)高度關(guān)注的領(lǐng)域。不過，早期合成基于相似度檢索進(jìn)行，合成結(jié)果的多樣性有限，而目前通行的方法是利用神經(jīng)網(wǎng)絡(luò)模型，將音樂特征映射到人體骨骼關(guān)鍵點(diǎn)，但由于人類骨架關(guān)鍵點(diǎn)的高度冗余和帶噪特性，逐幀關(guān)鍵點(diǎn)預(yù)測非常困難，導(dǎo)致合成質(zhì)量有限，成為困擾業(yè)內(nèi)人士的一大“難關(guān)”。

搜狗分身技術(shù)團(tuán)隊(duì)與清華天工研究院賈珈老師團(tuán)隊(duì)在論文中提出了一個(gè)極具創(chuàng)造性的解決方案，該方案將人類編舞知識融合到樂舞合成框架中，設(shè)計(jì)多個(gè)舞蹈單元(CAU)，并使用CAU序列預(yù)測模型，開發(fā)了一個(gè)像人類一樣根據(jù)音樂編排舞蹈動(dòng)作的舞蹈合成框架——ChoreoNet。通過實(shí)驗(yàn)驗(yàn)證和數(shù)據(jù)對比，相較于基線法，ChoreoNet性能更好，合成動(dòng)作也更加自然逼真，無論是音樂匹配度、動(dòng)作自然度還是其他方面，表現(xiàn)都更加優(yōu)秀。

（截圖來源：ChoreoNet論文）

此次，該論文被ACM Multimedia認(rèn)可并錄取為長文，不僅代表了搜狗AI分身技術(shù)在身體動(dòng)作及姿態(tài)生成方面的突破，也從側(cè)面印證了搜狗強(qiáng)大的AI技術(shù)實(shí)力和能夠?qū)崿F(xiàn)持續(xù)輸出的創(chuàng)新能力。值得注意的是，搜狗是在業(yè)內(nèi)率先選擇通過音頻來驅(qū)動(dòng)身體動(dòng)作作為研究課題的先行者。

“死磕技術(shù)”引領(lǐng)方向

在搜狗的AI戰(zhàn)略版圖中，“自然交互+知識計(jì)算”是核心方向，技術(shù)研究和推動(dòng)技術(shù)向產(chǎn)品的快速轉(zhuǎn)化均以此為基礎(chǔ)和方向，而搜狗“分身”是其中關(guān)鍵和重要一環(huán)。

在2018年發(fā)布全球首個(gè)AI合成主播之后，搜狗分身持續(xù)研究并打造更加逼真自然的數(shù)字人能力，在2D/3D數(shù)字人領(lǐng)域構(gòu)建了音畫同步、逼真的面部表情唇動(dòng)生成及驅(qū)動(dòng)能力。此外，如何能夠讓數(shù)字人更加自然并且富有表現(xiàn)力也是搜狗分身的重點(diǎn)研究方向，其中身體動(dòng)作以及姿態(tài)的表達(dá)至關(guān)重要。搜狗在首代AI合成主播問世后不到3個(gè)月的時(shí)間，便成功推出與“坐播”截然不同的“站播”合成主播，今年5月推出的3D AI合成主播不止面部細(xì)節(jié)經(jīng)得起高清鏡頭考驗(yàn)，更是實(shí)現(xiàn)了自如行走。本次與清華大學(xué)天工智能計(jì)算研究院的工作選擇了音樂場景，重點(diǎn)研究如何提升身體動(dòng)作生成及驅(qū)動(dòng)的表現(xiàn)力和自然度，為AI數(shù)字人的技術(shù)探索開啟了新方向。

“未來應(yīng)用”前景廣闊

人工智能是未來科技的風(fēng)向標(biāo)，而5G時(shí)代的到來又大大加速了這一進(jìn)程。自2018年搜狗推出全球首個(gè)AI合成主播之后，能夠與普通人的生活深度交融并廣泛運(yùn)用于各行各業(yè)的“AI分身”便深受關(guān)注，不少科技企業(yè)躬身入局。

從上文可以看出，搜狗從未停下突破的步伐，從2D到3D、“坐播”到“站播”、從支持單一語種到支持多語種、再到支持互動(dòng)。目前搜狗分身技術(shù)已經(jīng)在司法、傳媒、會(huì)展、藝術(shù)、金融客服等多個(gè)場地落地，為新華社、央視、平安惠普、北京互聯(lián)網(wǎng)法院等打造了多個(gè)AI合成主播、AI合成客服、AI虛擬法官等，也創(chuàng)造了雅妮、新小微、新小浩、新小萌等多個(gè)經(jīng)典AI數(shù)字人形象。

由音頻驅(qū)動(dòng)的數(shù)字人或數(shù)字舞蹈演員，擁有巨大的想象空間和市場化應(yīng)用前景。特別是與搜狗現(xiàn)有3D數(shù)字人的技術(shù)相結(jié)合后，使用場景可以從目前集中的傳媒、金融、法律等領(lǐng)域向影視、娛樂領(lǐng)域進(jìn)軍，將攪動(dòng)萬億規(guī)模的市場。

AI為人賦能，這是搜狗人工智能的發(fā)展理念，也是搜狗分身技術(shù)的愿景。作為一項(xiàng)既能解決行業(yè)痛點(diǎn)，又能為用戶創(chuàng)造價(jià)值，既能給社會(huì)帶來變革，又能對科技產(chǎn)生影響，同時(shí)還能持續(xù)突破和進(jìn)步的前沿技術(shù)，搜狗分身的未來，無疑具備更多的可能性、極大的想象空間。