租赁价格低至2元/时!英伟达A800不香了?算力租赁市场格局生变

来源:财联社 2024-04-02

  《科创板日报》4月2日讯(记者 郭辉) 在火爆的算力行业,《科创板日报》记者近日了解到,热门算力卡英伟达A800的租赁价格仅需2元/时,同时在经过去年服务器租赁价格暴涨后,今年不同规格产品价格出现一定幅度下降。

  多家算力租赁行业企业人士表示,今年一季度算力租赁供需仍然紧张。另有业内人士分析称,算力租赁市场供需结构正在逐步调整,对于有AI计算需求的中小企业及研究机构来说,成本投入将得到改善。

  热门算力卡租赁价格“打骨折” 有平台月租费仅千余元

  近日,在某社交平台用户发帖称,市场价格超10万元的英伟达A800人工智能训卡,在某平台租赁价格仅需2元/时,引发关注。

  据帖文称,按调试训练一个大模型平均要1个月计算,每月2元/时租赁A800训练成本单卡仅需不到1440元,该价格仅为购买A800这款AI显卡价格的1/69,并且无需承担运营数据中心、电费等成本。

image

  有评论表示,A800单卡线上租赁市价也就10元左右,但2块确实是“骨折价”了。也有评论称,这个价格“有促销既视感,不知道跟进卷的还有哪家”。

  《科创板日报》记者登录帖文指向的SCNet国家超算互联网官网,看到一款服务器配备8个英伟达A800加速卡、显存为80GB,处理器为2个Intel 8458P 44C,其价格为2元/时。

  据了解,SCNet国家超算互联网是一家以互联网思维运营超算,并连接产业生态中的算力供给、应用开发、运营服务、用户等各方,构建一体化超算算力网络和服务平台。该平台于2023年4月成立工作推进组、总体专家组以及超算互联网联合体,并于去年11月启动公测。

  《科创板日报》记者今日(4月2日)以企业人员身份与平台客服取得联系,该客服表示,按照平台规则,单张A800卡租赁价格确实是2元/时,但单人可申请卡的*大数量和单作业运行时间有一定限制,不过已基本可以满足90%以上用户AI计算需求。

  “租赁AI卡用户,超90%的都是对已成熟大模型进行‘微调’,13B参数量级别的大模型有一两张A800卡几天时间就可完成微调。”该客服进一步表示,如果用户需要长时间租赁大量AI算力进行“全参数微调”,平台也有充足国产AI卡支持并行计算需求,并会给到一个合适的价格。

  算力卡租赁真成“白菜价”了吗?对此,有产业人士提醒,线上AI训练相比实机运算效率可能会有轻微降低, 但相比直接购买英伟达专业显卡所需的高额成本,以租赁形式满足算力需求,仍是许多中小企业及研究机构当前的更为经济的选择。

  一名业内人士向《科创板日报》记者表示,“现阶段看,购买AI算力设施企业和租赁AI企业规模其实是不一样的。直接买A800卡的大部分都是头部企业,追求的是*创新能力。而租赁AI卡企业,则是希望在细分AI赛道取得一定进展,或是高校研究机构进行实验。

  另一家算力租赁服务企业人士告诉《科创板日报》记者,一台搭载8卡A800的服务器月均价在4.6万元左右,A100的租赁价格会更便宜一些。对比润六尺类似配置的A800服务器,一年期价格在88000/月/台。

  “因为人工智能比较火,这个价格在行业内相对算是很有性价比了。”上述人士称,“今年市场对算力租赁的需求依然很高。”

  一季度部分厂商算力租赁价格松动 供需依然紧张

  AI的火热让算力租赁在过去一年里成为一项热门生意。与通用云计算服务相比,算力租赁具备配置灵活度高、成本低等优势。去年开始,多家上市企业购置专业算力显卡布局算力租赁业务,服务价格也水涨船高。

  在2023年,据不完全统计,已有中贝通信、汇纳科技、恒润股份、鸿博股份、真视通、青云科技等多家A股公司大规模采购GPU并开展对外算力服务器租赁业务。

  “目前来看,服务器租赁供需还是比较紧张。”中贝通信证券部工作人员表示,该公司去年签订多份AI算力服务订单,现在算力中心已经有部分在投入使用了。“去年公司服务器有一部分在涨价,但是在根据市场供需以及客户情况调整,报价也是一客一议”。

  另一家提供算力服务的上市公司人士也向《科创板日报》记者表示,目前算力服务价格和价格趋势都不便透露,但从市场供需关系来看,整个市场降价的可能性都不大。

  不过随着供需结构逐步调整、厂商对大模型训练成熟,仍有部分市场开始出现松动。

  一家中等规模的算力服务公司人士向《科创板日报》记者表示,近期跟今年年初相比,服务器平均租赁价格确实有所下降。“去年价格涨得确实比较高了,今年我们机房集群会根据行情陆续采购,或者就现有规模做资源规划,价格还是看之后的供需。”

  另有产业界人士称,去年AI产业概念持续火爆,2024年春节后AI卡租赁市场行情相比年初却有微降。这源于两方面,首先是拥有大量算力的平台正不断完善服务能力,增加算力供给,其次是伴随众多大模型开源,已让不少企业选择在成熟模型基础上进行“微调”训练,阶段性降低了算力需求。

  算力租赁火热,一定程度受限于外部市场环境因素。专精特新企业高质量发展促进工程执行主任袁帅表示,如果市场竞争加剧,或者技术进步导致投入制造成本降低,那么专业卡的降价空间可能会进一步增大。

  未来如何避免产业资源空耗、进一步提高投入产出比,国内算力租赁需考虑向更高附加值的运营服务方向转型。中泰证券研报认为,算力租赁基于硬件资源的按需租赁和按量付费模式,面对激烈算力租赁竞争,多元算力融合成为关键,算力市场将更加重视辅助运营服务,从提供硬件资源逐步转变为提供算力服务。

类型:广告
免责声明:以上内容为本网站转自其它媒体,相关信息仅为传递更多信息之目的,不代表本网观点,亦不代表本网站赞同其观点或证实其内容的真实性。
发布
X
第三方账号登录
  • 微博认证登录
  • QQ账号登录
  • 微信账号登录

企业俱乐部