【ITBEAR】在超算時(shí)代，清華大學(xué)高性能計(jì)算研究中心便以解決算力需求相關(guān)軟件問(wèn)題而著稱。如今，隨著AI技術(shù)的迅猛發(fā)展，這一經(jīng)驗(yàn)被應(yīng)用到新的領(lǐng)域。清程極智，一家由清華大學(xué)計(jì)算機(jī)系團(tuán)隊(duì)創(chuàng)辦的初創(chuàng)企業(yè)，正致力于解決AI Infra領(lǐng)域的挑戰(zhàn)。
清程極智的核心團(tuán)隊(duì)擁有豐富的超大規(guī)模國(guó)產(chǎn)算力集群使用和優(yōu)化經(jīng)驗(yàn)，這是目前國(guó)內(nèi)AI Infra賽道中少有的技術(shù)優(yōu)勢(shì)。據(jù)湯雄超博士介紹，他們是國(guó)內(nèi)唯一有過(guò)十萬(wàn)臺(tái)服務(wù)器規(guī)模的國(guó)產(chǎn)算力集群調(diào)優(yōu)經(jīng)驗(yàn)的團(tuán)隊(duì)。
湯雄超在清程極智辦公室
清程極智不僅關(guān)注AI訓(xùn)練面臨的挑戰(zhàn)，還看到了推理側(cè)的機(jī)會(huì)。湯雄超認(rèn)為，訓(xùn)推一體機(jī)難以滿足未來(lái)的全部AI業(yè)務(wù)需求，因?yàn)橛?xùn)練和推理兩種業(yè)務(wù)對(duì)算力系統(tǒng)的需求差異較大。因此，清程極智選擇為推理業(yè)務(wù)量身定制軟硬件一體化的算力系統(tǒng)，并通過(guò)云端算力提供MaaS大模型推理服務(wù)。
對(duì)于與云廠商的競(jìng)爭(zhēng)，湯雄超表示，大模型應(yīng)用市場(chǎng)前景廣闊，足以容納多家廠商。他認(rèn)為，云廠商過(guò)去聚焦于資源池化和共享，而現(xiàn)在需要解決的問(wèn)題是分布式的資源合并，這正是清程極智團(tuán)隊(duì)的優(yōu)勢(shì)所在。
在商業(yè)化方面，清程極智已經(jīng)與多家芯片廠商、算力中心、AI應(yīng)用開發(fā)商以及基礎(chǔ)模型預(yù)訓(xùn)練廠商達(dá)成了合作。同時(shí)，他們也在與云廠商合作，提供兼容和賦能多樣化算力基座的服務(wù)。
清程極智 MaaS 平臺(tái)
湯雄超還表示，他們對(duì)國(guó)產(chǎn)芯片市場(chǎng)的發(fā)展充滿信心。他認(rèn)為，隨著國(guó)產(chǎn)芯片性價(jià)比的提升，未來(lái)國(guó)產(chǎn)芯片市場(chǎng)會(huì)有一定程度的收斂，但不會(huì)完全集中到一家廠商。而清程極智的技術(shù)和服務(wù)，正是為了助力國(guó)產(chǎn)算力生態(tài)的發(fā)展。
在談到MaaS平臺(tái)時(shí)，湯雄超表示，他們不僅提供大模型API的服務(wù)，還通過(guò)自研的推理引擎提升模型推理的性能。他們的MaaS平臺(tái)支持多種芯片，包括英偉達(dá)和國(guó)產(chǎn)算力平臺(tái)。而他們的目標(biāo)，是讓更多有需求的人使用到清程的推理加速能力。
對(duì)于未來(lái)，湯雄超表示，他們將繼續(xù)致力于AI Infra領(lǐng)域的技術(shù)創(chuàng)新和商業(yè)化應(yīng)用。他們相信，隨著AI技術(shù)的不斷發(fā)展，他們的技術(shù)和服務(wù)將在更多領(lǐng)域得到應(yīng)用和推廣。
清程極智團(tuán)隊(duì)成員
在談到國(guó)產(chǎn)芯片廠商的競(jìng)爭(zhēng)和合作時(shí)，湯雄超表示，他們與多家國(guó)產(chǎn)芯片廠商都有合作，并認(rèn)為未來(lái)國(guó)產(chǎn)芯片市場(chǎng)可能會(huì)出現(xiàn)一定程度的集中和收斂，但不太可能出現(xiàn)一家獨(dú)大的情況。他們將繼續(xù)與國(guó)產(chǎn)芯片廠商合作，共同推動(dòng)國(guó)產(chǎn)算力生態(tài)的發(fā)展。
最后，對(duì)于GPU是否是算力的最優(yōu)解，湯雄超表示，這取決于上層應(yīng)用的需求和算法的發(fā)展。他認(rèn)為，如果AI算法發(fā)生巨變，可能會(huì)導(dǎo)致新的芯片架構(gòu)的出現(xiàn)。但目前來(lái)看，GPU或類GPU架構(gòu)仍然是較好的選擇。
