原標(biāo)題：一年一度的云計(jì)算春晚——亞馬遜云科技re:Invent

　　一年一度的云計(jì)算春晚——亞馬遜云科技re:Invent，近日盛大開(kāi)幕。那么“云計(jì)算春晚”發(fā)布了什么AI產(chǎn)品?

　　首先來(lái)看Amazon SageMaker，今年是其發(fā)布的第五年，各行各業(yè)已有數(shù)百萬(wàn)個(gè)機(jī)器學(xué)習(xí)模型使用該服務(wù)管理，每月進(jìn)行數(shù)千億次的預(yù)測(cè)。

　　今年最重磅的新功能是機(jī)器學(xué)習(xí)治理工具Amazon SageMaker ML Governance，具體來(lái)說(shuō)有3個(gè)新工具：

　　Role Manager，可以在幾分鐘內(nèi)為SageMaker用戶定義自定義權(quán)限，區(qū)分算法工程師、運(yùn)維工程師等不同角色。

　　Model Cards，可以發(fā)現(xiàn)并自動(dòng)填充諸如訓(xùn)練作業(yè)、訓(xùn)練數(shù)據(jù)集、模型構(gòu)建和推理環(huán)境等細(xì)節(jié)，還可以記錄模型的詳細(xì)信息，例如模型的預(yù)期用途、風(fēng)險(xiǎn)評(píng)級(jí)和評(píng)估結(jié)果。

　　Model Dashboard，更是可以通過(guò)統(tǒng)一的儀表板監(jiān)控所有部署的模型。

　　在這些工具幫助下，可以簡(jiǎn)化訪問(wèn)控制，提高機(jī)器學(xué)習(xí)項(xiàng)目的透明度。

　　接下來(lái)是Amazon SageMaker Data Wrangler再次新增40多種新的數(shù)據(jù)源，可將匯總和準(zhǔn)備機(jī)器學(xué)習(xí)(ML)數(shù)據(jù)所需的時(shí)間從數(shù)周縮短至幾分鐘。

　　還有一個(gè)有意思的更新，是增加對(duì)地理空間數(shù)據(jù)(Geospatialdata)的機(jī)器學(xué)習(xí)支持，如衛(wèi)星、地圖和位置數(shù)據(jù)。具體來(lái)說(shuō)簡(jiǎn)化了利用地理空間數(shù)據(jù)創(chuàng)建、訓(xùn)練和模型部署的全過(guò)程，還可以在Amazon SageMaker的交互式地圖上分析和探索、分享機(jī)器學(xué)習(xí)預(yù)測(cè)結(jié)果。交通、物流、零售，甚至自然災(zāi)害監(jiān)測(cè)等行業(yè)都可從中受益。

　　看過(guò)機(jī)器學(xué)習(xí)平臺(tái)，再來(lái)看算力方面，這次的更新重點(diǎn)是對(duì)大模型的支持。 發(fā)布的Amazon EC2 Inf2，針對(duì)機(jī)器學(xué)習(xí)推理優(yōu)化的虛擬機(jī)實(shí)例，與上一代Inf1相比有4倍吞吐量提升、延遲降低十分之一。

　　Inf1對(duì)當(dāng)時(shí)常見(jiàn)的中小模型來(lái)說(shuō)恰到好處，但隨著大模型逐漸實(shí)用化，對(duì)更高規(guī)格推理實(shí)例的需求也在增長(zhǎng)。Inf2專為部署當(dāng)今最嚴(yán)苛的深度學(xué)習(xí)模型而設(shè)計(jì)，是第一個(gè)支持分布式推理的Amazon EC2實(shí)例，在自研Inferentia2推理芯片支持下可以運(yùn)行高達(dá)1,750億參數(shù)的大模型。也就是跑個(gè)GPT-3級(jí)別的大語(yǔ)言模型或者Stable Diffusion這樣的圖像生成模型等都不在話下。

　　早些時(shí)候，亞馬遜云科技還發(fā)布了Amazon EC2 Trn1，為機(jī)器學(xué)習(xí)訓(xùn)練打造，與基于GPU的同類(lèi)產(chǎn)品相比，可節(jié)省高達(dá)50%的訓(xùn)練成本。

   投稿郵箱：chuanbeiol@163.com   詳情請(qǐng)?jiān)L問(wèn)川北在線：http://sanmuled.cn/