嘉賓 | 鄭吉敏
編輯 | 李美涵
出品 | 51CTO技術(shù)棧（微信號：blog51cto）
本文整理自去哪兒旅行技術(shù)總監(jiān)鄭吉敏在WOT2024大會上的主題分享，更多精彩內(nèi)容及現(xiàn)場PPT，請關(guān)注51CTO技術(shù)棧公眾號，發(fā)送【W(wǎng)OT】即可直接領(lǐng)取。
日前，在51CTO主辦的WOT全球技術(shù)創(chuàng)新大會上，去哪兒旅行技術(shù)總監(jiān)鄭吉敏帶來了主題演講《國際酒店AI生成視頻實(shí)踐》，圍繞著國際酒店的業(yè)務(wù)架構(gòu)，詳細(xì)介紹了生成視頻如何進(jìn)行流程AI化以及相關(guān)實(shí)踐和思考，帶給觀眾全新的視野和獨(dú)家的經(jīng)驗(yàn)分享。
本文將摘選其中精彩內(nèi)容，統(tǒng)一整理，希望為諸君帶來啟發(fā)。
本文將從以下四個部分展開：
- 視頻生成挑戰(zhàn)與機(jī)遇
- 專業(yè)影視生成流程AI化
- AI生成視頻實(shí)踐
- 視頻生成成果展示與思考
1.視頻生成挑戰(zhàn)與機(jī)遇
我們首先來看看，國際酒店視頻生成所遇到的挑戰(zhàn)。
圖片
隨著AIGC技術(shù)的發(fā)展，我們關(guān)注其在實(shí)際業(yè)務(wù)中的應(yīng)用。我們認(rèn)識到AIGC已具備生成視頻的能力，且我們的業(yè)務(wù)對此有相應(yīng)的需求。
因此，我們首先確定了使用AIGC生成視頻的場景。
接下來，我們考慮如何將視頻制作工程化，并確保視頻質(zhì)量?；氐揭曨l本身，目前其核心元素有兩點(diǎn)：文案和圖片。我們需要審視現(xiàn)有的文案和圖片資源，通過組織這些內(nèi)容生成視頻，并以賦能現(xiàn)有業(yè)務(wù)作為終點(diǎn)。
在制作視頻時，我們面臨的第一個問題是素材選擇。我們手頭的素材已經(jīng)明確，包括基礎(chǔ)的文案、圖片信息和用戶點(diǎn)評，這些素材需要精心挑選并有效利用以生成視頻。
素材選擇的難點(diǎn)在于信息的篩選和利用。例如，酒店圖片質(zhì)量參差不齊，高星酒店的圖片通常更清晰，成為視頻的亮點(diǎn)，但并非所有酒店的圖片都具備這一特性。此外，用戶點(diǎn)評中包含多種語言，翻譯后的信息可能無法直接使用。
面對這些挑戰(zhàn)，我們需要找到解決方案，以確保視頻內(nèi)容的質(zhì)量和準(zhǔn)確性。
接下來談?wù)勌魬?zhàn)背后我們看到一些機(jī)遇。
圖片
圍繞著國際酒店業(yè)務(wù)的異國風(fēng)情特征，我們沉淀了高度多樣化的信息。
對于觀眾觀看體驗(yàn)來說，視頻不僅僅是展示酒店，更重要的是通過視頻傳達(dá)酒店所在區(qū)域的多樣性，以及與本地酒店不同的特色和定位。
我們面臨的問題是國際酒店視頻的制作是否能夠成功，以下是我列出一些可行性的數(shù)據(jù)支撐：
1. 國際酒店視頻覆蓋率低。在開始之前，我們發(fā)現(xiàn)國際酒店視頻的覆蓋率大約為19.6%，顯示了巨大的提升空間。
2. 視頻對轉(zhuǎn)化有明顯提升。去年，我們對高星酒店視頻進(jìn)行了測試，結(jié)果顯示視頻顯著提高了用戶的轉(zhuǎn)化率。
3. 國內(nèi)酒店有視頻生成經(jīng)驗(yàn)。國內(nèi)酒店已經(jīng)針對低星酒店生成了視頻，這驗(yàn)證了我們已經(jīng)具備基礎(chǔ)的視頻制作能力。
基于這些基礎(chǔ)，我們確定了國際酒店視頻制作需要具備的三個基本特征：風(fēng)格多樣性、內(nèi)容多樣性和元素多樣性。
2.專業(yè)影視生成流程AI化
我們將專業(yè)影視生產(chǎn)流程簡化為四個關(guān)鍵步驟：
第一，策劃創(chuàng)意。
第二，分鏡創(chuàng)作。
第三，現(xiàn)場拍攝。
第四，后期剪輯。
圖片
圍繞這四個過程，我們用上圖簡單介紹一下。
以上圖的片段為例，每個分鏡會有文案描述她的動作，并配有女生說的話或者內(nèi)心獨(dú)白來展現(xiàn)劇情。
通過這些元素的組合，我們能夠制作出一個連貫的影視片段。每個分鏡都由圖片或視頻、文案和語音組成，經(jīng)過后期剪輯，形成一個完整的小視頻。這是影視制作中的基本流程。
基于上述內(nèi)容，我們來看看，視頻制作流程的AI化。
圖片
視頻本質(zhì)上由多個分鏡構(gòu)成的，每個分鏡都包含圖片、文案、配樂等核心元素。在AI的幫助下對素材進(jìn)行加工，從而生成每個分鏡的內(nèi)容。
隨后，通過轉(zhuǎn)場動畫和特效，將各個分鏡流暢地拼接成一個完整的視頻。
3.AI生成視頻實(shí)踐
具體到AI生成視頻的實(shí)踐中，我們還會面臨一個問題，就是判斷視頻質(zhì)量高低的標(biāo)準(zhǔn)——如何生成一個用戶愿意觀看的內(nèi)容？
圖片
我們總結(jié)優(yōu)質(zhì)視頻有以下關(guān)鍵因素：
首先，我們強(qiáng)調(diào)價值趣味，這涉及到劇情設(shè)計(jì)和分鏡的構(gòu)思。我們需要考慮如何設(shè)計(jì)分鏡，以及是否有合適的模板來更好地連接每個分鏡。
緊接著是清晰畫質(zhì)，我們追求1080p甚至4K的高清標(biāo)準(zhǔn)，確保用戶在觀看時不會因?yàn)楫嬞|(zhì)問題而感到不適。
最重要的，視頻的主題應(yīng)該是優(yōu)質(zhì)的。我們的目標(biāo)不僅是畫質(zhì)和設(shè)計(jì)方面的精良，更要傳達(dá)出酒店的亮點(diǎn)和特色，讓用戶通過視頻就能直觀感受到酒店的魅力。
最終，我們希望用戶在觀看視頻后，愿意分享視頻。
基于優(yōu)質(zhì)視頻的基礎(chǔ)元素，我們規(guī)劃了視頻生成的業(yè)務(wù)流程。
圖片
第一步，素材選取。我們首先提取圖片和文字素材，并進(jìn)行去重和高清處理，確?；A(chǔ)素材的質(zhì)量。對于文字，特別是小語種，我們會進(jìn)行翻譯和亮點(diǎn)抽取，以適應(yīng)不同語言環(huán)境的需求，達(dá)到實(shí)際可用的水平。
第二步，預(yù)處理階段。這個階段的目標(biāo)是讓圖片和文字滿足用戶的基本要求。我們還會根據(jù)需要，將文字輸入到大語言模型中，圖片則輸入到多模態(tài)大模型中，進(jìn)行再加工。
第三步，分鏡制作。我們會大量運(yùn)用運(yùn)鏡和特效技術(shù)，模擬用戶實(shí)際觀察酒店的視角和動態(tài)效果。例如，對于酒店外景，我們會模擬用戶走近酒店的動作，使用拉近效果；對于房型圖片，則模擬用戶在房間內(nèi)的視線移動，通過左右遷移來增強(qiáng)現(xiàn)場感，讓用戶感覺身臨其境。此外，我們還會根據(jù)場景添加特效，如海島場景的疊化和模糊效果，夜晚場景的星星特效，營造更豐富的意境。
最后一步，模板剪輯合成。在這個階段，我們將每個分鏡與旁白結(jié)合，將完成的每個分鏡，利用多套模板進(jìn)行合成，通過特效和音樂確保視頻的絲滑過渡，避免生硬感，最終生成一個完整的視頻。
接下來我們看一下從業(yè)務(wù)層面，來看整個視頻的生成。通常來講我們還是以每個分鏡作為我們的基礎(chǔ)單元，構(gòu)建以業(yè)務(wù)為核心的生產(chǎn)流程。
圖片
在構(gòu)建業(yè)務(wù)模型時，底層的是AI技術(shù)的能力。這些能力包括文本預(yù)處理、圖片預(yù)處理、大語言模型、多模態(tài)模型以及分鏡制作和模板合成等，它們各自獨(dú)立，為自研提供通用能力。
這種設(shè)計(jì)的優(yōu)勢在于，一旦上層思路確定，我們可以自由決定使用適合的AI能力，個性化的適配不同酒店需求。
業(yè)務(wù)模型的上層，是業(yè)務(wù)規(guī)則。前面也提到過，國際酒店的地域文化差異顯著，我們采用定制化策略，使得視頻與酒店的定位相匹配，避免視頻的千篇一律。
接下來重點(diǎn)講下模板，模版讓我們以不同的方式組裝分鏡，業(yè)務(wù)的多樣性決定了我們模版的多樣性。
圖片
目前核心模版分這幾類，商業(yè)簡約風(fēng)格、豪華&奢華風(fēng)格、海島風(fēng)情、日式風(fēng)格等等。
我們與公司的UI團(tuán)隊(duì)展開合作，由他們設(shè)計(jì)相應(yīng)的模板，確保視頻展示方式與酒店的特色相匹配，從而提升視頻的整體效果。
通過這種方式，我們的平臺AI能力在多方面得到了有效沉淀。
圖片
去哪兒網(wǎng)的業(yè)務(wù)線、算法和AI技術(shù)架構(gòu)是分開的，通常采用合作的方式來完成工作，因此我們會實(shí)現(xiàn)各AI能力的單獨(dú)擴(kuò)展，由業(yè)務(wù)方自主選擇并以插件形式復(fù)用所需能力。
圖片
這里包含文案處理、圖片處理等多種AI能力的插件。
接下來簡單講下，AI對于多語種翻譯的增強(qiáng)。
圖片
我們的翻譯實(shí)踐表明，在處理27種語言時，傳統(tǒng)神經(jīng)網(wǎng)絡(luò)+深度學(xué)習(xí)雖然能實(shí)現(xiàn)基本的"信"（準(zhǔn)確傳達(dá)原意），但往往缺乏"達(dá)"（通順）和"雅"（情感和風(fēng)格）。
通過使用GPT-3.5，我們能夠提升翻譯質(zhì)量至7到8分，效果與使用谷歌翻譯差不多，如果使用GPT-4，效果還會更好。
小語種翻譯尤其受益于大型語言模型，但也要注意在成本上獲得平衡。
接下來說一下AI對多模態(tài)生成的加強(qiáng)。
圖片
在生成視頻方面，我們主要嘗試過Pika和Runway平臺?；赗unway的Gen-2模型，通過精細(xì)調(diào)整參數(shù)并確保內(nèi)容符合物理邏輯，我們能夠創(chuàng)造出逼真的圖像，例如模擬真實(shí)的海浪動態(tài)。我們注意到，如果不進(jìn)行特殊控制，生成的海浪可能不符合自然現(xiàn)象（上圖）。因此，我們在多模態(tài)生成中特別強(qiáng)調(diào)物理邏輯的準(zhǔn)確性。
目前，Runway在生成效果方面表現(xiàn)最強(qiáng)，盡管它的API接口尚未完全開放。一旦開放，預(yù)計(jì)將極大促進(jìn)我們的多模態(tài)生成工作。
不過，即使有了強(qiáng)大的工具，參數(shù)的調(diào)整仍然非常關(guān)鍵。
4.視頻生成成果展示與思考
我們來看一下視頻生成的成果展示。
下面這個視頻是典型的簡約商務(wù)酒店風(fēng)格，通過左右移動，模擬用戶進(jìn)入房間的觀看效果。（為方便展示，視頻經(jīng)過壓縮，原視頻清晰度為1080p）。
接下來同樣是一個簡約商務(wù)酒店，這個酒店的特點(diǎn)是周圍的地標(biāo)建筑。
在做簡約商務(wù)酒店的視頻時，還會進(jìn)行元素定制，突出酒店的亮點(diǎn)、對用戶度假時特別關(guān)注的問題進(jìn)行強(qiáng)調(diào)，例如位于普吉島的酒店是否有免費(fèi)的無邊泳池等。
接下來是一個日式和風(fēng)酒店。
接下來，是在AI能力基礎(chǔ)上，進(jìn)行過簡單的人工加工的海島視頻。
這里邊有了很多特效以及動態(tài)，讓觀看者能感受到輕松、浪漫的氣氛。
最后講一下視頻的數(shù)據(jù)結(jié)果，這是我們APP里的展現(xiàn)形式，默認(rèn)是在目前打開詳情頁的位置進(jìn)行播放，上線后效果相對提升6%。
圖片
5.總結(jié)
圖片
在AI生成視頻的過程中，我們也踩過坑、積累了不少經(jīng)驗(yàn)。比如，最開始我們會強(qiáng)調(diào)支持4K以提供高清體驗(yàn)，但考慮到實(shí)際手機(jī)端的加載情況，最終選擇了1080p作為標(biāo)準(zhǔn)。
再比如，剛開始實(shí)踐時，我們執(zhí)著于使用旁白朗讀文案。但在實(shí)際測試中發(fā)現(xiàn)，優(yōu)美的背景音樂配合高清圖片更適合高端酒店。
在動畫和動態(tài)圖片的運(yùn)用上，圖片的動態(tài)化會為吸引力加成，但是物理規(guī)律的準(zhǔn)確性特別重要。
展望未來，我們計(jì)劃在提供視頻生成能力的同時，實(shí)現(xiàn)對高端酒店的定制化覆蓋。我們將根據(jù)不同酒店的風(fēng)格定制視頻內(nèi)容，包括風(fēng)格、場景和亮點(diǎn)，并針對不同客群展示相應(yīng)酒店視頻，同時為運(yùn)營團(tuán)隊(duì)提供快速響應(yīng)市場的能力，為他們順利與酒店達(dá)成合作助力。
目前，生成一個視頻的成本大約是1.25元，時間大約在半分鐘到一分鐘左右，這是一個高效具備高成本效益的解決方案。
