【ITBEAR科技資訊】9月5日消息，今日在2023年百度云智大會(huì)上，百度智能云宣布推出千帆大模型平臺(tái)2.0，為企業(yè)提供更加高效、低成本的大模型開發(fā)解決方案。
在新的千帆大模型平臺(tái)2.0中，工具鏈得到了重要改進(jìn)。從大模型開發(fā)、訓(xùn)練、部署到應(yīng)用開發(fā)，各個(gè)環(huán)節(jié)被無縫地連接在一起，從而大大提高了業(yè)務(wù)流程的效率。以往需要花費(fèi)一個(gè)月才能看到大模型效果的技術(shù)團(tuán)隊(duì)，現(xiàn)在在千帆的一站式工具鏈平臺(tái)上，僅需一天即可實(shí)現(xiàn)。
在算力效能方面，千帆大模型平臺(tái)2.0采用了一套集成的異構(gòu)算力集群、高速互聯(lián)網(wǎng)絡(luò)以及高性能存儲(chǔ)系統(tǒng)。這些技術(shù)支持能夠承載萬卡規(guī)模訓(xùn)練的AI算力基礎(chǔ)設(shè)施，將大模型訓(xùn)練和推理的成本降低到最低。
此次千帆大模型平臺(tái)2.0升級(jí)還加強(qiáng)了數(shù)據(jù)方面的能力。除了管控大模型外，它還能夠增強(qiáng)這些大模型的中文理解和生成能力。例如，Llama2的國外大模型在中文對(duì)話方面也能表現(xiàn)出色。同時(shí)，訓(xùn)練和推理性能也得到了全面提升，訓(xùn)練Llama2的吞吐量提高了1/4，而推理速度甚至提升了3倍。
在企業(yè)級(jí)安全方面，千帆的安全機(jī)制使得企業(yè)能夠構(gòu)建四層安全防線，保障大模型的內(nèi)容安全、數(shù)據(jù)安全和系統(tǒng)安全。對(duì)于有高合規(guī)要求的客戶，千帆支持國內(nèi)外主流芯片和操作系統(tǒng)，還提供了私有化部署選項(xiàng)，確保企業(yè)擁有自主可控的大模型。
值得注意的是，百度智能云在本次百度云智大會(huì)上宣布，百度網(wǎng)盤“云一朵”智能助理已經(jīng)吸引了超過600萬的用戶使用。
據(jù)ITBEAR科技資訊了解，在今年8月初，千帆大模型平臺(tái)完成了第一輪升級(jí)，成功地集成了LLaMA2全系列、ChatGLM2等33個(gè)大模型，使其成為國內(nèi)擁有大模型最多的平臺(tái)之一。同時(shí)，千帆平臺(tái)還上線了103個(gè)預(yù)置的prompt模板，涵蓋了對(duì)話、編程、電商等多個(gè)場(chǎng)景。如今，千帆大模型平臺(tái)納管的國內(nèi)外主流大模型已經(jīng)達(dá)到42個(gè)，而預(yù)置的有行業(yè)特色的數(shù)據(jù)集也達(dá)到了41個(gè)。這個(gè)平臺(tái)已經(jīng)吸引了近萬家企業(yè)，覆蓋了金融、制造、能源、政務(wù)、交通等400多個(gè)業(yè)務(wù)場(chǎng)景。
