2023年11月25日 14:00 ～ 2023年11月25日 17:30

線上活動(dòng)

| 關(guān)于美團(tuán)技術(shù)沙龍

本期活動(dòng)由清華大學(xué)-美團(tuán)數(shù)字生活聯(lián)合研究院和深圳市美團(tuán)機(jī)器人研究院聯(lián)合出品，美團(tuán)技術(shù)團(tuán)隊(duì)和美團(tuán)科協(xié)主辦，每期沙龍邀請(qǐng)美團(tuán)及其他互聯(lián)網(wǎng)公司的技術(shù)專家分享來自一線的實(shí)踐經(jīng)驗(yàn)，覆蓋各主要技術(shù)領(lǐng)域。

/出品人/

興星，美團(tuán)高級(jí)研究員

2016年初加入美團(tuán)，從0到1搭建外賣商業(yè)團(tuán)隊(duì)及技術(shù)體系，應(yīng)用于外賣/閃購/醫(yī)藥的搜索/推薦/品牌展示等多個(gè)廣告場(chǎng)景，多次獲得BG業(yè)務(wù)和技術(shù)突破獎(jiǎng)。曾在搜狗商業(yè)、百度鳳巢任職，早年也曾獲得多項(xiàng)數(shù)據(jù)競(jìng)賽冠軍。

| 活動(dòng)簡(jiǎn)介

AI時(shí)代，數(shù)據(jù)、算法、算力是三大核心要素，而算法工程作為運(yùn)作載體，提供AI能力的業(yè)務(wù)價(jià)值變現(xiàn)。

美團(tuán)作為一家科技零售公司，很早就在搜索、推薦、廣告方向踐行用AI“幫大家吃得更好，生活更好”，持續(xù)打磨算法體系和算法工程系統(tǒng)，以追求極致的用戶體驗(yàn)。

本次技術(shù)沙龍，我們將與大家分享稀疏場(chǎng)景下的算法工程內(nèi)容，包括訓(xùn)練、特征、推理三個(gè)方向遇到的系統(tǒng)挑戰(zhàn)與取得的階段性成果。

| 日程安排

外部議程

| 分享介紹 

黃軍，美團(tuán)研究員

目前從事深度學(xué)習(xí)基礎(chǔ)架構(gòu)工作，曾從事大數(shù)據(jù)基礎(chǔ)架構(gòu)工作。

分享議題：《美團(tuán)搜索/推薦/廣告場(chǎng)景的訓(xùn)練引擎實(shí)踐》

介紹美團(tuán)通用大規(guī)模深度學(xué)習(xí)訓(xùn)練引擎的演進(jìn)過程，關(guān)鍵演進(jìn)技術(shù)包括：大規(guī)模稀疏參數(shù)支持，千億樣本訓(xùn)練，異構(gòu)硬件加速，大規(guī)模集群部署等。

王敬宇，北京郵電大學(xué)教授/博導(dǎo)

從事深度學(xué)習(xí)模型編譯、加速與分布化的工作，北京市青年英才，主持完成國(guó)家級(jí)項(xiàng)目10余項(xiàng)。

分享議題：《稀疏模型推理加速在美團(tuán)推薦系統(tǒng)中的實(shí)踐》

在線推薦類模型中算子粒度過小，模型中使用的定制算子往往并未被主流的優(yōu)化工具支持，這使得TVM等推理加速工具難以對(duì)整個(gè)模型進(jìn)行加速，造成模型的對(duì)應(yīng)圖結(jié)構(gòu)零碎，效率不高。本次分享主要介紹報(bào)告引擎優(yōu)化工作，以系統(tǒng)化的方式提供計(jì)算圖算力密度的評(píng)估機(jī)制，以及更多通?的算子融合與替換策略，獲得比手工優(yōu)化策略更通用的優(yōu)化策略，已經(jīng)部署于美團(tuán)的真實(shí)業(yè)務(wù)，實(shí)現(xiàn)了深度學(xué)習(xí)推理服務(wù)加速。

亞劼，美團(tuán)高級(jí)技術(shù)專家

曾帶領(lǐng)團(tuán)隊(duì)從0-1建設(shè)了廣告特征、模型推理系統(tǒng)，在算法工作流、數(shù)據(jù)流、模型加速優(yōu)化有豐富的經(jīng)驗(yàn)。

分享議題：《美團(tuán)外賣廣告特征平臺(tái)實(shí)踐》

特征、樣本作為算法工作流程中重要的一環(huán)，數(shù)據(jù)質(zhì)量、數(shù)據(jù)生產(chǎn)效率直接影響了模型產(chǎn)出的好、快。本次分享，主要介紹美團(tuán)外賣廣告在算法數(shù)據(jù)高時(shí)效、大規(guī)模驅(qū)動(dòng)下，特征平臺(tái)的演進(jìn)，尤其是在超長(zhǎng)序列下，特征回溯、特征存儲(chǔ)的解決方案。

玉磊，美團(tuán)高級(jí)技術(shù)專家

負(fù)責(zé)搜推機(jī)器學(xué)習(xí)引擎工作，在GPU加速訓(xùn)練和推理方面有多年經(jīng)驗(yàn)，帶領(lǐng)團(tuán)隊(duì)完成搜推機(jī)器學(xué)習(xí)訓(xùn)練、推理從CPU到GPU的切換。曾就職于百度鳳巢模型團(tuán)隊(duì)。

分享議題：《美團(tuán)搜索/推薦推理引擎實(shí)踐》

推理引擎是模型應(yīng)用的核心架構(gòu)，也是影響模型交付效果的最后一環(huán)。隨著模型復(fù)雜度的進(jìn)一步提高，面向稀疏特征場(chǎng)景、以CPU為算力基礎(chǔ)的傳統(tǒng)稀疏模型推理引擎架構(gòu)，在算力上面臨著巨大的短板；同時(shí)，稀疏特征的規(guī)模也成為傳統(tǒng)搜推模型采用新硬件進(jìn)行加速的核心制約因素。本次分享主要介紹美團(tuán)搜索、推薦采用GPU進(jìn)行推理加速的新架構(gòu)，內(nèi)容主要包括搜推模型的在線學(xué)習(xí)、稀疏特征加速處理、模型優(yōu)化、模型分發(fā)等推理引擎核心議題。

| 報(bào)名鏈接

https://hdxu.cn/D3JDH