在今年的Amazon re:Invent大會(huì)上，第二天的焦點(diǎn)明顯轉(zhuǎn)向了模型訓(xùn)練、推理及應(yīng)用落地，一系列創(chuàng)新工具和服務(wù)成為了全場(chǎng)矚目的亮點(diǎn)。Amazon SageMaker、Amazon Bedrock和Amazon Q，作為這一戰(zhàn)略的核心組成部分，正引領(lǐng)著生成式AI技術(shù)的全新發(fā)展方向。
亞馬遜云科技的人工智能與數(shù)據(jù)副總裁Swami Sivasubramanian指出，我們正站在生成式AI發(fā)展的十字路口，盡管前路并非總是清晰明了，但推動(dòng)技術(shù)進(jìn)步的好奇心與解決客戶實(shí)際問題的決心，正成為我們前行的強(qiáng)大動(dòng)力。
Amazon SageMaker，這一全球數(shù)十萬客戶信賴的平臺(tái)，已經(jīng)憑借其卓越的功能成為了構(gòu)建、訓(xùn)練和部署機(jī)器學(xué)習(xí)模型的首選。在今年的Keynote演講中，亞馬遜云科技的首席執(zhí)行官M(fèi)att Garman詳細(xì)介紹了下一代SageMaker的愿景，它將大數(shù)據(jù)處理、快速SQL分析、機(jī)器學(xué)習(xí)以及生成式AI的核心能力整合到一個(gè)統(tǒng)一的平臺(tái)中，為用戶提供前所未有的便捷體驗(yàn)。
為了進(jìn)一步提升SageMaker的訓(xùn)練效率，亞馬遜云科技推出了Amazon SageMaker HyperPod。這款創(chuàng)新的解決方案具備出色的彈性能力，能夠在集群遭遇全棧故障時(shí)自動(dòng)恢復(fù)，同時(shí)提供快速的檢查點(diǎn)和主動(dòng)計(jì)算資源管理功能。HyperPod的靈活訓(xùn)練計(jì)劃和任務(wù)治理功能，更是極大地簡(jiǎn)化了模型訓(xùn)練計(jì)劃的管理，提高了計(jì)算資源的利用率，降低了成本。
在推理領(lǐng)域，Amazon Bedrock正成為企業(yè)構(gòu)建和擴(kuò)展生成式AI應(yīng)用的得力助手。它不僅是一個(gè)模型庫，更是一種一站式解決方案，覆蓋了從模型選擇、成本優(yōu)化、延遲和準(zhǔn)確性提升，到數(shù)據(jù)定制、安全性和負(fù)責(zé)任AI，再到構(gòu)建和協(xié)調(diào)Agent的全方位能力。通過Bedrock的統(tǒng)一API，用戶可以輕松訪問來自領(lǐng)先提供商的100多個(gè)新興和專業(yè)基礎(chǔ)模型，并結(jié)合知識(shí)庫、智能防護(hù)和智能代理功能，實(shí)現(xiàn)更高效的應(yīng)用開發(fā)。
Amazon Bedrock還引入了多項(xiàng)創(chuàng)新功能，如提示詞緩存和提示詞智能路由，以大幅降低延遲和成本。同時(shí)，它還提供了Amazon Kendra GenAI Index，為RAG和Bedrock提供托管檢索服務(wù)，簡(jiǎn)化了對(duì)企業(yè)數(shù)據(jù)源的連接和使用。在數(shù)據(jù)自動(dòng)化方面，Bedrock能夠自動(dòng)化非結(jié)構(gòu)化多模態(tài)數(shù)據(jù)的轉(zhuǎn)換，為結(jié)構(gòu)化數(shù)據(jù)檢索提供支持，并增強(qiáng)了GraphRAG對(duì)知識(shí)圖譜的集成。
Amazon Q作為生成式AI助手，也在大會(huì)上大放異彩。Amazon Q Developer不僅成為了亞馬遜云科技專家的得力助手，更是一款功能強(qiáng)大的軟件開發(fā)生成式AI助手。它支持SageMaker Canvas中的自然語言開發(fā)ML模型，幫助經(jīng)驗(yàn)較少的客戶輕松上手。同時(shí)，Amazon Q還在Quicksight Scenarios中提供了支持，實(shí)現(xiàn)了BI對(duì)復(fù)雜業(yè)務(wù)問題的自動(dòng)拆解，加速了商業(yè)分析的過程。
盡管亞馬遜云科技提供了如此完備的產(chǎn)品和技術(shù)服務(wù)，但企業(yè)在面對(duì)生成式AI時(shí)仍然面臨一些挑戰(zhàn)。亞馬遜云科技全球服務(wù)副總裁Uwem Ukpong總結(jié)了三大挑戰(zhàn)：云遷移瓶頸、數(shù)據(jù)孤島難題以及應(yīng)用場(chǎng)景聚焦不足。為了解決這些問題，亞馬遜云科技成立了生成式AI創(chuàng)新中心，與客戶合作完成了超過700個(gè)應(yīng)用案例。對(duì)于不同技術(shù)水平的客戶，亞馬遜云科技提供了從“低強(qiáng)度指導(dǎo)”到“白手套服務(wù)”的全方位支持，幫助客戶獨(dú)立推進(jìn)項(xiàng)目或一起構(gòu)建生成式AI應(yīng)用。
在概念驗(yàn)證項(xiàng)目中，Uwem Ukpong強(qiáng)調(diào)，企業(yè)需要認(rèn)真評(píng)估成本與收益，分析投資回報(bào)率，并判斷具體的用例是否值得重點(diǎn)推進(jìn)。通過這一系列的創(chuàng)新舉措和全方位支持，亞馬遜云科技正致力于推動(dòng)生成式AI技術(shù)的廣泛應(yīng)用和深入發(fā)展。
