杨净 梦晨 发自 凹非寺量子位 | 公家号 QbitAI
在学校里学AI最头疼的是什么?
排第一的必定是组里算力不敷,并且是永久不敷,即便春节都不敷。
我一个师妹比来就向我吐槽:
找导师吵了架末于在春节前回了老家,但过年时间也得炼丹!
尝试室的显卡还不敷用,如今家里只要个条记本,底子跑不动!
我去问了一圈,发现AI学子春节也要炼模子那种事,还挺遍及。
好比投国际会议的,ECCV本年截行日期是3月7日,时间很严重。
CVPR更要命,Rebuttal截行到2月1日大岁首年月一早上8点,大年三十晚上写论文,实·难忘今宵。
也是很辛苦了,究竟结果到了元旦之夜,连琅琊榜里的言侯都不炼丹了(狗头)。
对大大都学校来说算力老是不敷用的。
若是是组里的工做或导师下的Deadline,能够间接找导师报销。
但也有人是本身要卷,额外投论文、搞角逐的,那就得自掏腰包了。
有一位资深“卷王”,满世界租GPU已经租出了心得。
去大型公有云整租办事器比力贵,如今有一些面向小我的云平台就廉价多了。
小我云上能够便利的租单卡,按小时租,利用起来比力灵敏。
英伟达RTX系列显卡能够做到1-2元/小时,V100大要3-4元/小时。
并且要找那种主做机器进修市场的,在国外有vast.ai,国内有矩池云、恒源云、AutoDL等。
那些平台会对AI模子训练有专门适配,框架依赖、上传数据等方面都考虑到了,不消每次上机先花半天时间设置装备摆设情况。
此中叫AutoDL那家春节还筹办搞大促,号称限时免费,就很离谱。
但考虑到那个平台不怎么出名,在保举给师妹刷好感度之前,我仍是本身先看看。
验证一下那羊毛到底好欠好薅。
ps. 虽是羊毛,下含保举。先划个重点,文末有欣喜!
什么样的算(yang)力(mao)平台?看了活动细则后我坐不住了:对新注册用户来说,限时免费竟然是实的。
别看那一大段抵扣券啥的说了那么多,其实就是相当于春节7天,每天送80多元余额,7天将近600。
80多元什么概念?
若是用来租英伟达RTX 3090,租满一天24小时还有充裕,再添点能够租两张。
按天送搞那么复杂,大要是为了限造每个用户的用量,究竟结果是拉新的活动,不克不及让少数人把资本都占了。
要参与那个活动的门槛也不高,起首需如果新注册用户,然后只需要充值100元即可。
那100元能够共同抵扣券在春节期间租更好的卡,或在活动完毕之后一般利用。
既然实的是羊毛,那我就先薅为敬了,也考察一下那家平台还有些什么名堂。
从供给的显卡品种看,选择仍是很丰硕的。
其他平台根本上仅涵盖英伟达的系列显卡,从TITAN Xp、K80到3090、A100、V100等。
而AutoDL供给的显卡,包罗更多RTX系列中间型号,共超越900张,还有国产芯片,寒武纪、华为之类能够选。
那些国产芯片往往愈加火爆,时常处于已租完的形态。
为了制止有同窗不晓得该若何选GPU,除了有专门的帮忙文档外,平台还将GPU分红通用性、大显存、高主频CPU、多核心CPU、1元GPU等类别供其选择。
价格上,3090每小时只需1.99元,最贵的A100 80GB NVLINK每小时也只需7.98元。包月的话也大都在每天十几二十元不等。
在此,与其他平台几类常见的显卡价格来做个比力。
(数据截行至1月26日上午11:30,图中价格显示平台更低价格,部门厂商还有充值返券机造)
所以不管品种、仍是价格上,AutoDL都有必然的优势。
官网还出格强调:那些价格在本年只会降低,不会进步。
除了硬件层面,AutoDL还为深度进修用户供给配套功用。
好比,内置深度进修框架及版本的镜像,除了必备的Pytorch、Tensorflow,还有PaddlePaddle、Miniconda、清华Jittor等。
还有一些常用的开源数据和预训练模子,好比ImageNet、BERT之类,免除下载上传的懊恼。
除了该有的显卡、东西,那个平台还有一些别处没有的功用和办事。
最有意思是起落设置装备摆设和实例迁徙。
好比调试代码的时候能够省钱用单卡,想加速训练了随时增加。
再狠一点还能够用5毛钱的TITAN Xp调试,到时候再把实例迁徙到好卡上去运行,肝Paper不浪费一分钱。
数据上传方面,一般平台就是内置JupytorLab东西、撑持FileZilla、XShell等软件之类。
在那根底上,AutoDL供给了网盘办事。
能够在实例间便利的共享数据,每个地域的网盘免费空间大小为20GB。
不外那一点,也不是AutoDL特有。像矩池云、恒源云也都有免费的存储空间,超出即采纳收费形式。
其实不可,平台还撑持邮寄硬盘。
讲事理,一般来说只要像谷歌、亚马逊如许的大平台才会供给那个办事。
而如许一个面向学生的AutoDL不但供给还免费,同窗可间接将训练数据存储在硬盘里,然后邮寄到机房,由那边运维的同窗帮手物理挂载。
对了,内蒙A区还将在明年一季度晋级并接入ipv6教育专网,数据上传的速度将再次提拔。
综上所述,不管在价格活动、显卡可租的范畴、还在特定功用上,AutoDL确实有羊毛可薅!
薅羊毛的“更佳理论”根本情况看完了,那那个羊毛到底怎么薅才最划算,如今就来总结一下。
起首注册就送10元券,那个也相当于余额,是无利用门槛的,能够间接抵扣。
如今注册即送1个月的三级会员,能够享受6.5折。
一个月跋文得用教育邮箱认证学生身份就可轻松连结会员品级,继续享受折扣。
按会员价,春节期间一个划算的选择是英伟达A40,2.98元*24小时是71.52元,用完抵扣券还有充裕。
别的3090也是不错的选择,固然显存比A系列小,但租两张的话单精度算力几乎翻倍,能够按照使命需求选择。
8两张3090在抵扣券范畴内能够用20多小时~
以上是价格层面,若是想要薅尽最初一根羊毛,其实还有一些小技巧。
上传数据、调试代码等用不到GPU的阶段能够利用无卡形式开机。
如许只会挪用0.5个CPU核,2G内存,无GPU,无论租的哪种设置装备摆设,无卡形式价格都是一毛一小时。
若是一起头只需要少量算力做调试,也能够先开1块GPU,等正式训练需要多卡并行了再随时起落设置装备摆设。
若是是一段时间内集中的需求,能够选择包天、包周、包月。
如许比按量计费还要再廉价10%摆布,并且不消担忧关机后GPU被其他用户占用。
嗯,说到关机的问题,别忘了在Python代码最初加上一句施行完成后关机,制止浪费。
究竟结果良多时候本身也不晓得代码要施行多久。
os.system("shutdown")别的提醒一下,可不要想着把羊毛薅来挖矿,是会封号的。
若是你春节也有租显卡的需求,能够点击阅读原文去注册薅起来了。
如果你刚好在筹办ECCV和CVPR论文,届时文章若被录用,联络AutoDL客服,还会收到666元无门槛优惠券。
若是你原来没什么deadline要完成,要不向卷王同窗一样报名个机器进修角逐去卷一卷?
究竟结果优惠活动是限时的,过了春节就没了。
最初,再附上一份各GPU型号简介供参考,看看你的模子合适跑在什么卡上。
更详细的选卡攻略,能够到帮忙文档查看/
— 完 —
量子位 QbitAI · 头条号签约
存眷我们,第一时间获知前沿科技动态
版权声明
本文仅代表作者观点,不代表本站立场。
本文系作者授权发表,未经许可,不得转载。
发表评论