科技改變生活 · 科技引領(lǐng)未來
楊凈夢(mèng)晨發(fā)自凹非寺量子位|公眾號(hào)QbitAI在學(xué)校里學(xué)AI最頭疼的是什么?排第一的肯定是組里算力不夠,而且是永遠(yuǎn)不夠,即使春節(jié)都不夠。我一個(gè)師妹最近就向我吐槽:找導(dǎo)師吵了架終于在春節(jié)前回了老家,但過年時(shí)間也得煉丹!實(shí)驗(yàn)室的顯卡還不夠用,現(xiàn)在
楊凈 夢(mèng)晨 發(fā)自 凹非寺量子位 | 公眾號(hào) QbitAI
在學(xué)校里學(xué)AI最頭疼的是什么?
排第一的肯定是組里算力不夠,而且是永遠(yuǎn)不夠,即使春節(jié)都不夠。
我一個(gè)師妹最近就向我吐槽:
找導(dǎo)師吵了架終于在春節(jié)前回了老家,但過年時(shí)間也得煉丹!
實(shí)驗(yàn)室的顯卡還不夠用,現(xiàn)在家里只有個(gè)筆記本,根本跑不動(dòng)!
我去問了一圈,發(fā)現(xiàn)AI學(xué)子春節(jié)也要煉模型這種事,還挺普遍。
比如投國際會(huì)議的,ECCV今年截止日期是3月7日,時(shí)間很緊張。
CVPR更要命,Rebuttal截止到2月1日大年初一早上8點(diǎn),大年三十晚上寫論文,真·難忘今宵。
也是很辛苦了,畢竟到了除夕之夜,連瑯琊榜里的言侯都不煉丹了(狗頭)。
對(duì)大多數(shù)學(xué)校來說算力總是不夠用的。
如果是組里的工作或?qū)熛碌腄eadline,可以直接找導(dǎo)師報(bào)銷。
但也有人是自己要卷,額外投論文、搞比賽的,那就得自掏腰包了。
有一位資深“卷王”,滿世界租GPU已經(jīng)租出了心得。
去大型公有云整租服務(wù)器比較貴,現(xiàn)在有一些面向個(gè)人的云平臺(tái)就便宜多了。
個(gè)人云上可以方便的租單卡,按小時(shí)租,使用起來比較靈活。
英偉達(dá)RTX系列顯卡可以做到1-2元/小時(shí),V100大概3-4元/小時(shí)。
而且要找那種主做機(jī)器學(xué)習(xí)市場(chǎng)的,在國外有vast.ai,國內(nèi)有矩池云、恒源云、AutoDL等。
這些平臺(tái)會(huì)對(duì)AI模型訓(xùn)練有專門適配,框架依賴、上傳數(shù)據(jù)等方面都考慮到了,不用每次上機(jī)先花半天時(shí)間配置環(huán)境。
其中叫AutoDL這家春節(jié)還準(zhǔn)備搞大促,號(hào)稱限時(shí)免費(fèi),就很離譜。
但考慮到這個(gè)平臺(tái)不怎么知名,在推薦給師妹刷好感度之前,我還是自己先看看。
驗(yàn)證一下這羊毛到底好不好薅。
ps. 雖是羊毛,下含推薦。先劃個(gè)重點(diǎn),文末有驚喜!
什么樣的算(yang)力(mao)平臺(tái)?
看了活動(dòng)細(xì)則后我坐不住了:對(duì)新注冊(cè)用戶來說,限時(shí)免費(fèi)居然是真的。
別看這一大段抵扣券啥的說了這么多,其實(shí)就是相當(dāng)于春節(jié)7天,每天送80多元余額,7天將近600。
80多元什么概念?
如果用來租英偉達(dá)RTX 3090,租滿一天24小時(shí)還有富余,再添點(diǎn)可以租兩張。
按天送搞這么復(fù)雜,大概是為了限制每個(gè)用戶的用量,畢竟是拉新的活動(dòng),不能讓少數(shù)人把資源都占了。
要參加這個(gè)活動(dòng)的門檻也不高,首先需要是新注冊(cè)用戶,然后只需要充值100元即可。
這100元可以配合抵扣券在春節(jié)期間租更好的卡,或在活動(dòng)結(jié)束之后正常使用。
既然真的是羊毛,那我就先薅為敬了,也考察一下這家平臺(tái)還有些什么名堂。
從提供的顯卡種類看,選擇還是很豐富的。
其他平臺(tái)基本上僅涵蓋英偉達(dá)的系列顯卡,從TITAN Xp、K80到3090、A100、V100等。
而AutoDL提供的顯卡,包括更多RTX系列中間型號(hào),共超過900張,還有國產(chǎn)芯片,寒武紀(jì)、華為之類可以選。
這些國產(chǎn)芯片往往更加火爆,時(shí)常處于已租完的狀態(tài)。
為了避免有同學(xué)不知道該如何選GPU,除了有專門的幫助文檔外,平臺(tái)還將GPU分成通用性、大顯存、高主頻CPU、多核心CPU、1元GPU等類別供其選擇。
價(jià)格上,3090每小時(shí)只需1.99元,最貴的A100 80GB NVlink每小時(shí)也只需7.98元。包月的話也大都在每天十幾二十元不等。
在此,與其他平臺(tái)幾類常見的顯卡價(jià)格來做個(gè)比較。
(數(shù)據(jù)截止至1月26日上午11:30,圖中價(jià)格顯示平臺(tái)最低價(jià)格,部分廠商還有充值返券機(jī)制)
所以不論種類、還是價(jià)格上,AutoDL都有一定的優(yōu)勢(shì)。
官網(wǎng)還特別強(qiáng)調(diào):這些價(jià)格在今年只會(huì)降低,不會(huì)提高。
除了硬件層面,AutoDL還為深度學(xué)習(xí)用戶提供配套功能。
比如,內(nèi)置深度學(xué)習(xí)框架及版本的鏡像,除了必備的Pytorch、Tensorflow,還有PaddlePaddle、Miniconda、清華Jittor等。
還有一些常用的開源數(shù)據(jù)和預(yù)訓(xùn)練模型,比如ImageNet、BERT之類,免去下載上傳的煩惱。
除了該有的顯卡、工具,這個(gè)平臺(tái)還有一些別處沒有的功能和服務(wù)。
最有意思是升降配置和實(shí)例遷移。
比如調(diào)試代碼的時(shí)候可以省錢用單卡,想加速訓(xùn)練了隨時(shí)增加。
再狠一點(diǎn)還可以用5毛錢的TITAN Xp調(diào)試,到時(shí)候再把實(shí)例遷移到好卡上去運(yùn)行,肝Paper不浪費(fèi)一分錢。
數(shù)據(jù)上傳方面,一般平臺(tái)就是內(nèi)置JupytorLab工具、支持FileZilla、XShell等軟件之類。
在這基礎(chǔ)上,AutoDL提供了網(wǎng)盤服務(wù)。
可以在實(shí)例間方便的共享數(shù)據(jù),每個(gè)地區(qū)的網(wǎng)盤免費(fèi)空間大小為20GB。
不過這一點(diǎn),也不是AutoDL特有。像矩池云、恒源云也都有免費(fèi)的存儲(chǔ)空間,超出即采取收費(fèi)模式。
實(shí)在不行,平臺(tái)還支持郵寄硬盤。
講道理,一般來說只有像谷歌、亞馬遜這樣的大平臺(tái)才會(huì)提供這個(gè)服務(wù)。
而這樣一個(gè)面向?qū)W生的AutoDL不光提供還免費(fèi),同學(xué)可直接將訓(xùn)練數(shù)據(jù)存儲(chǔ)在硬盤里,然后郵寄到機(jī)房,由這邊運(yùn)維的同學(xué)幫忙物理掛載。
對(duì)了,內(nèi)蒙A區(qū)還將在明年一季度升級(jí)并接入ipv6教育專網(wǎng),數(shù)據(jù)上傳的速度將再次提升。
綜上所述,不管在價(jià)格活動(dòng)、顯卡可租的范圍、還在特定功能上,AutoDL確實(shí)有羊毛可薅!
薅羊毛的“最佳實(shí)踐”
基本情況看完了,那這個(gè)羊毛到底怎么薅才最劃算,現(xiàn)在就來總結(jié)一下。
首先注冊(cè)就送10元券,這個(gè)也相當(dāng)于余額,是無使用門檻的,可以直接抵扣。
現(xiàn)在注冊(cè)即送1個(gè)月的三級(jí)會(huì)員,可以享受6.5折。
一個(gè)月后記得用教育郵箱認(rèn)證學(xué)生身份就可輕松保持會(huì)員等級(jí),繼續(xù)享受折扣。
按會(huì)員價(jià),春節(jié)期間一個(gè)劃算的選擇是英偉達(dá)A40,2.98元*24小時(shí)是71.52元,用完抵扣券還有富余。
另外3090也是不錯(cuò)的選擇,雖然顯存比A系列小,但租兩張的話單精度算力幾乎翻倍,可以根據(jù)任務(wù)需求選擇。
8兩張3090在抵扣券范圍內(nèi)可以用20多小時(shí)~
以上是價(jià)格層面,如果想要薅盡最后一根羊毛,其實(shí)還有一些小技巧。
上傳數(shù)據(jù)、調(diào)試代碼等用不到GPU的階段可以使用無卡模式開機(jī)。
這樣只會(huì)調(diào)用0.5個(gè)CPU核,2G內(nèi)存,無GPU,無論租的哪種配置,無卡模式價(jià)格都是一毛一小時(shí)。
如果一開始只需要少量算力做調(diào)試,也可以先開1塊GPU,等正式訓(xùn)練需要多卡并行了再隨時(shí)升降配置。
如果是一段時(shí)間內(nèi)集中的需求,可以選擇包天、包周、包月。
這樣比按量計(jì)費(fèi)還要再便宜10%左右,而且不用擔(dān)心關(guān)機(jī)后GPU被其他用戶占用。
嗯,說到關(guān)機(jī)的問題,別忘了在Python代碼最后加上一句執(zhí)行完成后關(guān)機(jī),避免浪費(fèi)。
畢竟很多時(shí)候自己也不知道代碼要執(zhí)行多久。
os.system("shutdown")
另外提醒一下,可不要想著把羊毛薅來挖礦,是會(huì)封號(hào)的。
如果你春節(jié)也有租顯卡的需求,可以點(diǎn)擊閱讀原文去注冊(cè)薅起來了。
要是你剛好在準(zhǔn)備ECCV和CVPR論文,屆時(shí)文章若被錄用,聯(lián)系A(chǔ)utoDL客服,還會(huì)收到666元無門檻優(yōu)惠券。
如果你本來沒什么deadline要完成,要不向卷王同學(xué)一樣報(bào)名個(gè)機(jī)器學(xué)習(xí)比賽去卷一卷?
畢竟優(yōu)惠活動(dòng)是限時(shí)的,過了春節(jié)就沒了。
最后,再附上一份各GPU型號(hào)簡介供參考,看看你的模型適合跑在什么卡上。
更詳細(xì)的選卡攻略,可以到幫助文檔查看https://www.autodl.com/docs/gpu/
— 完 —
量子位 QbitAI · 頭條號(hào)簽約
關(guān)注我們,第一時(shí)間獲知前沿科技動(dòng)態(tài)
張熙華
版權(quán)所有 未經(jīng)許可不得轉(zhuǎn)載
增值電信業(yè)務(wù)經(jīng)營許可證備案號(hào):遼ICP備14006349號(hào)
網(wǎng)站介紹 商務(wù)合作 免責(zé)聲明 - html - txt - xml