科技改變生活 · 科技引領未來
科技改變生活 · 科技引領未來
楊凈夢晨發自凹非寺量子位|公眾號QbitAI在學校里學AI最頭疼的是什么？排第一的肯定是組里算力不夠，而且是永遠不夠，即使春節都不夠。我一個師妹最近就向我吐槽：找導師吵了架終于在春節前回了老家，但過年時間也得煉丹！實驗室的顯卡還不夠用，現在
楊凈 夢晨 發自 凹非寺量子位 | 公眾號 QbitAI
在學校里學AI最頭疼的是什么？
排第一的肯定是組里算力不夠，而且是永遠不夠，即使春節都不夠。
我一個師妹最近就向我吐槽：
找導師吵了架終于在春節前回了老家，但過年時間也得煉丹！
實驗室的顯卡還不夠用，現在家里只有個筆記本，根本跑不動！
我去問了一圈，發現AI學子春節也要煉模型這種事，還挺普遍。
比如投國際會議的，ECCV今年截止日期是3月7日，時間很緊張。
CVPR更要命，Rebuttal截止到2月1日大年初一早上8點，大年三十晚上寫論文，真·難忘今宵。
也是很辛苦了，畢竟到了除夕之夜，連瑯琊榜里的言侯都不煉丹了（狗頭）。
對大多數學校來說算力總是不夠用的。
如果是組里的工作或導師下的Deadline，可以直接找導師報銷。
但也有人是自己要卷，額外投論文、搞比賽的，那就得自掏腰包了。
有一位資深“卷王”，滿世界租GPU已經租出了心得。
去大型公有云整租服務器比較貴，現在有一些面向個人的云平臺就便宜多了。
個人云上可以方便的租單卡，按小時租，使用起來比較靈活。
英偉達RTX系列顯卡可以做到1-2元/小時，V100大概3-4元/小時。
而且要找那種主做機器學習市場的，在國外有vast.ai，國內有矩池云、恒源云、AutoDL等。
這些平臺會對AI模型訓練有專門適配，框架依賴、上傳數據等方面都考慮到了，不用每次上機先花半天時間配置環境。
其中叫AutoDL這家春節還準備搞大促，號稱限時免費，就很離譜。
但考慮到這個平臺不怎么知名，在推薦給師妹刷好感度之前，我還是自己先看看。
驗證一下這羊毛到底好不好薅。
ps. 雖是羊毛，下含推薦。先劃個重點，文末有驚喜！
什么樣的算（yang）力（mao）平臺？
看了活動細則后我坐不住了：對新注冊用戶來說，限時免費居然是真的。
別看這一大段抵扣券啥的說了這么多，其實就是相當于春節7天，每天送80多元余額，7天將近600。
80多元什么概念？
如果用來租英偉達RTX 3090，租滿一天24小時還有富余，再添點可以租兩張。
按天送搞這么復雜，大概是為了限制每個用戶的用量，畢竟是拉新的活動，不能讓少數人把資源都占了。
要參加這個活動的門檻也不高，首先需要是新注冊用戶，然后只需要充值100元即可。
這100元可以配合抵扣券在春節期間租更好的卡，或在活動結束之后正常使用。
既然真的是羊毛，那我就先薅為敬了，也考察一下這家平臺還有些什么名堂。
從提供的顯卡種類看，選擇還是很豐富的。
其他平臺基本上僅涵蓋英偉達的系列顯卡，從TITAN Xp、K80到3090、A100、V100等。
而AutoDL提供的顯卡，包括更多RTX系列中間型號，共超過900張，還有國產芯片，寒武紀、華為之類可以選。
這些國產芯片往往更加火爆，時常處于已租完的狀態。
為了避免有同學不知道該如何選GPU，除了有專門的幫助文檔外，平臺還將GPU分成通用性、大顯存、高主頻CPU、多核心CPU、1元GPU等類別供其選擇。
價格上，3090每小時只需1.99元，最貴的A100 80GB NVlink每小時也只需7.98元。包月的話也大都在每天十幾二十元不等。
在此，與其他平臺幾類常見的顯卡價格來做個比較。
（數據截止至1月26日上午11：30，圖中價格顯示平臺最低價格，部分廠商還有充值返券機制）
所以不論種類、還是價格上，AutoDL都有一定的優勢。
官網還特別強調：這些價格在今年只會降低，不會提高。
除了硬件層面，AutoDL還為深度學習用戶提供配套功能。
比如，內置深度學習框架及版本的鏡像，除了必備的Pytorch、Tensorflow，還有PaddlePaddle、Miniconda、清華Jittor等。
還有一些常用的開源數據和預訓練模型，比如ImageNet、BERT之類，免去下載上傳的煩惱。
除了該有的顯卡、工具，這個平臺還有一些別處沒有的功能和服務。
最有意思是升降配置和實例遷移。
比如調試代碼的時候可以省錢用單卡，想加速訓練了隨時增加。
再狠一點還可以用5毛錢的TITAN Xp調試，到時候再把實例遷移到好卡上去運行，肝Paper不浪費一分錢。
數據上傳方面，一般平臺就是內置JupytorLab工具、支持FileZilla、XShell等軟件之類。
在這基礎上，AutoDL提供了網盤服務。
可以在實例間方便的共享數據，每個地區的網盤免費空間大小為20GB。
不過這一點，也不是AutoDL特有。像矩池云、恒源云也都有免費的存儲空間，超出即采取收費模式。
實在不行，平臺還支持郵寄硬盤。
講道理，一般來說只有像谷歌、亞馬遜這樣的大平臺才會提供這個服務。
而這樣一個面向學生的AutoDL不光提供還免費，同學可直接將訓練數據存儲在硬盤里，然后郵寄到機房，由這邊運維的同學幫忙物理掛載。
對了，內蒙A區還將在明年一季度升級并接入ipv6教育專網，數據上傳的速度將再次提升。
綜上所述，不管在價格活動、顯卡可租的范圍、還在特定功能上，AutoDL確實有羊毛可薅！
薅羊毛的“最佳實踐”
基本情況看完了，那這個羊毛到底怎么薅才最劃算，現在就來總結一下。
首先注冊就送10元券，這個也相當于余額，是無使用門檻的，可以直接抵扣。
現在注冊即送1個月的三級會員，可以享受6.5折。
一個月后記得用教育郵箱認證學生身份就可輕松保持會員等級，繼續享受折扣。
按會員價，春節期間一個劃算的選擇是英偉達A40，2.98元*24小時是71.52元，用完抵扣券還有富余。
另外3090也是不錯的選擇，雖然顯存比A系列小，但租兩張的話單精度算力幾乎翻倍，可以根據任務需求選擇。
8兩張3090在抵扣券范圍內可以用20多小時～
以上是價格層面，如果想要薅盡最后一根羊毛，其實還有一些小技巧。
上傳數據、調試代碼等用不到GPU的階段可以使用無卡模式開機。
這樣只會調用0.5個CPU核，2G內存，無GPU，無論租的哪種配置，無卡模式價格都是一毛一小時。
如果一開始只需要少量算力做調試，也可以先開1塊GPU，等正式訓練需要多卡并行了再隨時升降配置。
如果是一段時間內集中的需求，可以選擇包天、包周、包月。
這樣比按量計費還要再便宜10%左右，而且不用擔心關機后GPU被其他用戶占用。
嗯，說到關機的問題，別忘了在Python代碼最后加上一句執行完成后關機，避免浪費。
畢竟很多時候自己也不知道代碼要執行多久。
os.system("shutdown")另外提醒一下，可不要想著把羊毛薅來挖礦，是會封號的。
如果你春節也有租顯卡的需求，可以點擊閱讀原文去注冊薅起來了。
要是你剛好在準備ECCV和CVPR論文，屆時文章若被錄用，聯系AutoDL客服，還會收到666元無門檻優惠券。
如果你本來沒什么deadline要完成，要不向卷王同學一樣報名個機器學習比賽去卷一卷？
畢竟優惠活動是限時的，過了春節就沒了。
最后，再附上一份各GPU型號簡介供參考，看看你的模型適合跑在什么卡上。
更詳細的選卡攻略，可以到幫助文檔查看https://www.autodl.com/docs/gpu/
— 完 —
量子位 QbitAI · 頭條號簽約
關注我們，第一時間獲知前沿科技動態
王楠華