原標(biāo)題:一年一度的云計(jì)算春晚——亞馬遜云科技re:Invent
一年一度的云計(jì)算春晚——亞馬遜云科技re:Invent,近日盛大開(kāi)幕。那么“云計(jì)算春晚”發(fā)布了什么AI產(chǎn)品?
首先來(lái)看Amazon SageMaker,今年是其發(fā)布的第五年,各行各業(yè)已有數(shù)百萬(wàn)個(gè)機(jī)器學(xué)習(xí)模型使用該服務(wù)管理,每月進(jìn)行數(shù)千億次的預(yù)測(cè)。
今年最重磅的新功能是機(jī)器學(xué)習(xí)治理工具Amazon SageMaker ML Governance,具體來(lái)說(shuō)有3個(gè)新工具:
Role Manager,可以在幾分鐘內(nèi)為SageMaker用戶定義自定義權(quán)限,區(qū)分算法工程師、運(yùn)維工程師等不同角色。
Model Cards,可以發(fā)現(xiàn)并自動(dòng)填充諸如訓(xùn)練作業(yè)、訓(xùn)練數(shù)據(jù)集、模型構(gòu)建和推理環(huán)境等細(xì)節(jié),還可以記錄模型的詳細(xì)信息,例如模型的預(yù)期用途、風(fēng)險(xiǎn)評(píng)級(jí)和評(píng)估結(jié)果。
Model Dashboard,更是可以通過(guò)統(tǒng)一的儀表板監(jiān)控所有部署的模型。
在這些工具幫助下,可以簡(jiǎn)化訪問(wèn)控制,提高機(jī)器學(xué)習(xí)項(xiàng)目的透明度。
接下來(lái)是Amazon SageMaker Data Wrangler再次新增40多種新的數(shù)據(jù)源,可將匯總和準(zhǔn)備機(jī)器學(xué)習(xí)(ML)數(shù)據(jù)所需的時(shí)間從數(shù)周縮短至幾分鐘。
還有一個(gè)有意思的更新,是增加對(duì)地理空間數(shù)據(jù)(Geospatialdata)的機(jī)器學(xué)習(xí)支持,如衛(wèi)星、地圖和位置數(shù)據(jù)。具體來(lái)說(shuō)簡(jiǎn)化了利用地理空間數(shù)據(jù)創(chuàng)建、訓(xùn)練和模型部署的全過(guò)程,還可以在Amazon SageMaker的交互式地圖上分析和探索、分享機(jī)器學(xué)習(xí)預(yù)測(cè)結(jié)果。交通、物流、零售,甚至自然災(zāi)害監(jiān)測(cè)等行業(yè)都可從中受益。
看過(guò)機(jī)器學(xué)習(xí)平臺(tái),再來(lái)看算力方面,這次的更新重點(diǎn)是對(duì)大模型的支持。 發(fā)布的Amazon EC2 Inf2,針對(duì)機(jī)器學(xué)習(xí)推理優(yōu)化的虛擬機(jī)實(shí)例,與上一代Inf1相比有4倍吞吐量提升、延遲降低十分之一。
Inf1對(duì)當(dāng)時(shí)常見(jiàn)的中小模型來(lái)說(shuō)恰到好處,但隨著大模型逐漸實(shí)用化,對(duì)更高規(guī)格推理實(shí)例的需求也在增長(zhǎng)。Inf2專為部署當(dāng)今最嚴(yán)苛的深度學(xué)習(xí)模型而設(shè)計(jì),是第一個(gè)支持分布式推理的Amazon EC2實(shí)例,在自研Inferentia2推理芯片支持下可以運(yùn)行高達(dá)1,750億參數(shù)的大模型。也就是跑個(gè)GPT-3級(jí)別的大語(yǔ)言模型或者Stable Diffusion這樣的圖像生成模型等都不在話下。
早些時(shí)候,亞馬遜云科技還發(fā)布了Amazon EC2 Trn1,為機(jī)器學(xué)習(xí)訓(xùn)練打造,與基于GPU的同類產(chǎn)品相比,可節(jié)省高達(dá)50%的訓(xùn)練成本。
投稿郵箱:chuanbeiol@163.com 詳情請(qǐng)?jiān)L問(wèn)川北在線:http://sanmuled.cn/