12 月 25 日消息，據(jù)英偉達(dá)官方消息，美團(tuán)機(jī)器學(xué)習(xí)平臺(tái)使用 NVIDIA GPU，通過算子融合、計(jì)算圖等價(jià)替換等一系列優(yōu)化 ，相較于 CPU 在相同成本約束下，NVIDIA T4 GPU 大幅加速美團(tuán) CTR(Click-Through-Rate)模型預(yù)測(cè)性能，神經(jīng)網(wǎng)絡(luò)模型吞吐能力提升了 10 倍;同時(shí)在搜索精排場(chǎng)景中，端到端整體吞吐能力提升了一倍以上。
英偉達(dá)表示，美團(tuán)的 CTR 模型過去一直在使用 CPU 推理的方式，但隨著用戶訪問量的提升和深度神經(jīng)網(wǎng)絡(luò)的引入，CTR 模型結(jié)構(gòu)趨于復(fù)雜，吞吐和計(jì)算量也越來越大，CPU 開始不能滿足模型對(duì)于算力的需求，而僅僅通過 CPU 服務(wù)器的堆疊帶來的性能提升性價(jià)比相較偏低。而 GPU 擁有數(shù)以千計(jì)的計(jì)算核心，可以在單機(jī)內(nèi)提供密集的并行計(jì)算能力，特別適合深度學(xué)習(xí)場(chǎng)景，在行業(yè)內(nèi)已經(jīng)在 CV、NLP 等領(lǐng)域展示了強(qiáng)大的能力。通過 CUDA 及相關(guān) API，NVIDIA 建立了完整的 GPU 生態(tài)系統(tǒng)?；诖?，美團(tuán)基礎(chǔ)研發(fā)平臺(tái)將 CTR 模型部署到 GPU 上，并通過一系列針對(duì) CPU 與 GPU 的異構(gòu)系統(tǒng)并行計(jì)算設(shè)計(jì)、數(shù)據(jù)存儲(chǔ)方式和傳輸方式上的特定優(yōu)化。
NVIDIA Tesla T4 GPU 是一款推理加速器，搭載 NVIDIA Turing Tensor Core。官方稱，NVIDIA Tesla T4 GPU 具備人工智能推理的多精度計(jì)算性能，從 FP32 到 FP16 再到 INT8，又到 INT4 精度，T4 的性能比 CPU 高出 40 倍，實(shí)現(xiàn)性能的重大突破。
