图片来源:Pixabay
ChatGPT爆火带动AI芯片需求飙升。
截至上周五,英伟达最新发布的旗舰AI芯片H100在ebay上的售价超过4万美元一枚。相比此前零售商3.6万美元的报价,已提价明显。
【资料图】
这一价格仍在持续上涨。4月19日,时代财经搜索eBay时发现,目前共有5家店铺挂牌销售H100芯片,售价普遍达到4.5万美元左右,其中标价最高的一枚超过5万美元。以人民币计,相当于不到一周时间涨价近7万元。
而在国内,AI应用的主力芯片——由英伟达2020年发布的A100,其交易价格也在极短时间内迅速飙升。从事GPU服务器销售的文强(化名)向时代财经表示,从年初开始到现在短短三个月多时间里,A100的价格已经从原本的6万元左右一路涨至9万元,甚至一度超过10万元,涨幅超过50%。
在文强看来,A100售价还将继续上涨。去年8月,美国政府发布政策,禁止英伟达A100、H100两款AI芯片售往中国。目前,国内在售的产品都是此前的存货。业内预估,国内A100芯片仅有3万枚存货,奇货可居。
为符合美国政府出口管制政策,英伟达随后宣布推出在性能、带宽上有所阉割的“减配版”A800、H800芯片。受限于产能问题,这两款芯片同样缺货,价格也随之水涨船高。
文强告诉时代财经,自己手中A800报价也已经高达8.7万元,且仅剩16枚,售完即止。如果需求量大、需要订货,报价还会再涨5000元至9.2万元,直逼A100芯片售价。
“一天一个价,一天比一天贵。”
A100芯片缺口达30万枚
算力、算法和数据构成了AI时代的三要素,而算力又是基础设施。有多少枚GPU、多少算力,被认为是大语音模型研发和创业成败最为关键的因素之一。
正是因此,在海内外一众巨头和创业者涌入大语言模型研发训练的当下,市场对AI芯片的需求量飙升。
据前人工智能NLP企业首席科学家、千芯科技董事长陈巍测算,国内如果想要直接训练出一个GPT-3级别的大模型,最少需要3000到5000枚A100级别的AI芯片。
这意味着国内市场存在巨大的供应缺口。目前除了阿里巴巴、百度等互联网巨头之外,商汤科技、昆仑万维(300418)、毫末智行、360、知乎等公司也官宣了自己的大模型,如果再加上王小川、王慧文、李开复等创业者,中国年内即将推出的大模型数量已经超过10个。光是满足这些企业的需求就需要3万到5万枚A100级别的AI芯片。
这还只是研发训练层面的需求量。陈巍向时代财经表示,如果想要实际部署,算力的需求量只会更大。以保守情况估计,国内A100级别的AI芯片缺口在30万枚左右。
“我们算过,如果百度要在自己的搜索引擎内接入类似ChatGPT这样的对话模型,可能需要10万块A100级别的AI芯片,这还只是假设每个人只对话一次的保守测算。”
正是因此,A800、H800芯片遭到包括服务器、互联网厂商在内的公司哄抢。
一份流传的《阿里AI专家交流纪要》显示,百度年初紧急下单3000台8枚芯片的A800服务器,这意味着需要2.4万枚A800,预计全年百度会有A800和H800共5万枚需求。阿里云预计在今年需要1万枚左右,其中6000枚是H800。
在海外,巨头们的抢购也同样疯狂。据媒体报道,马斯克为推进推特内部的新AIGC项目,购买了大约1万枚AI芯片。而自2022年末开始,微软就实行了GPU资源配额供给,但今年1月以来审批时间越来越长,如今部分申请需要等待几天甚至几周才能获批。同时,微软向英伟达预订的数万枚AI芯片,交货无期。
或拖慢国产大语言模型发展
对于大语言模型训练来说,英伟达几乎成为唯一的赢家。
去年,国产芯片公司壁仞科技发布的BR100,已经被普遍认为能够在算力和能效比上达到全球领先水准。然而,在配套的产品生态上,几乎无人能与英伟达抗衡。
一位AI芯片设计相关的从业者向时代财经表示,英伟达于2006年发布的CUDA平台早已成为应用最为广泛的AI开发生态系统,然而CUDA几乎只支持英伟达的Tesla架构GPU,这导致开发者难以脱离英伟达芯片,进行生成式AI的研发以及训练。“几乎没有芯片公司可以撼动英伟达的统治地位。”
IDC数据显示,国内GPU服务器在2021年占国内服务器市场规模的比例超过88.4%,英伟达的产品占比超80%。
但受限于美国政府的出口管制政策,中国一众互联网大厂、大语言模型的创业者都无法及时获得最先进的AI芯片。在国内难以产出替代产品的情况下,毫无疑问将会影响国产大语言模型的发展进程。
在陈巍看来,中国企业如果使用“减配版”芯片,综合带宽性能可能只有同期旗舰型号的六成。这样需求量更大,跑得却更慢,综合成本至少要高出20%至30%。“这很有可能是赚钱和不赚钱的分水岭,活下去和活不下去的分水岭。”
-
肾囊肿饮食注意事项有哪些?肾囊肿能自愈吗?1 坚持低脂肪饮食:如果患上了肾囊肿,则说明肾脏的负担已经很重了,所以应该吃一些低脂肪的食物,这样可以减轻肾脏的负担。...
-
糖尿病人的饮食原则有哪些?糖尿病患者如何合理饮食?1、定量饮食糖尿病人在日常饮食中要每天控制好摄取的热量,合理规划三餐,尽量多吃些有助于降血糖的食材,如木耳、芹菜、粗粮...
-
夏季鼻炎可能是尘螨过敏吗?尘螨性鼻炎不治会怎么样?夏季尘螨、花粉、刺激性气味的影响,会导致过敏性鼻炎产生。主要是由于空气中含有大量的过敏原,平时外出的时候不注意日常护...
-
取消值机有什么后果?取消值机了为什么还是退不了票?取消值机是指取消值机程序,其目的是重新值机(重新安排座位)或取消已预订的机票。如果不值机是没有办法上飞机的。值机的意思...
-
耐材厂都是生产什么的?耐火材料具有哪些性能?耐火材料厂主要生产耐火材料,来进行用于冶金、化工、石油、机械制造、硅酸盐、动力等工业领域,在冶金工业中用量最大。耐火...
-
肾囊肿饮食注意事项有哪些?肾囊肿能自愈吗?
2023-04-18 16:01:45
-
糖尿病人的饮食原则有哪些?糖尿病患者如何合理饮食?
2023-04-18 16:01:09
-
夏季鼻炎可能是尘螨过敏吗?尘螨性鼻炎不治会怎么样?
2023-04-18 16:00:22
-
取消值机有什么后果?取消值机了为什么还是退不了票?
2023-04-18 15:59:40
-
耐材厂都是生产什么的?耐火材料具有哪些性能?
2023-04-18 15:59:05
-
天天看热讯:英伟达芯片一周涨了7万元!GPT带动涨价潮,主力芯片缺口达30万
2023-04-19 19:59:28
-
一季度中国造船三大指标市场份额保持全球领先
2023-04-19 20:15:39
-
即时焦点:贝特瑞跌2.15% 报道称关联方充当中介获巨额利益
2023-04-19 20:20:37
-
全球微资讯!探访豫资海元·南阳城市产业综合体EPC项目
2023-04-19 20:07:31
-
要闻:2023年国家助学贷款免息 本金可延期偿还
2023-04-19 20:17:37
-
平顶山新华区:小手拉大手 共创文明城
2023-04-19 19:58:51
-
天天速看:河南郏县:党建引领树新风 乡村文明润万家
2023-04-19 20:14:05
-
环球速递!河南郏县: 种下致富桃 踏上振兴路
2023-04-19 20:10:25
-
速递!河南鲁山:团城乡生态乡村游 带火民宿经济热
2023-04-19 20:09:03
-
看点:河南鲁山:“汉字小镇”文旅融合发展促振兴
2023-04-19 20:11:18
-
许昌市公安局开发区分局开展寄递物流行业安全检查
2023-04-19 20:12:41
-
观焦点:“喝预开口的椰子进急诊”上热搜,专家提醒:椰子最好现买现开,开口后应尽快饮用
2023-04-19 20:05:07
-
建安区公共资源交易中心坚持“四个优化” 提升服务效能
2023-04-19 20:11:48
-
许昌经济技术开发区市场监管分局助力食品安全示范城市创建
2023-04-19 20:04:48
-
天天看热讯:印度男子2年前“死”于新冠并被火化,上周突然出现在了家门口
2023-04-19 20:10:22
-
建安区全淑祺——当好技术先行者 践行时代工匠精神
2023-04-19 20:04:50
-
受贿1.56亿余元!上海电气原董事长郑建华受审
2023-04-19 20:15:48
-
当前速讯:许昌市市场监督管理局魏都区分扎实开展医疗器械抽检工作
2023-04-19 20:06:11
-
世界信息:上海土拍第二日四幅地块全部溢价成交:保利48.87亿竞得宝山大场宅地
2023-04-19 20:18:48
-
每日资讯:洛阳牡丹家族再添新成员 25个牡丹新品种通过审定
2023-04-19 20:11:58
-
中国一拖特专车公司一季度实现“双增长”
2023-04-19 20:18:10
-
环球速讯:注意绕行!4月24日起郑州市金水路西向南右转中州大道匝道拆除封闭
2023-04-19 19:56:22
-
世界短讯!蒲公英茶长期喝好吗 蒲公英茶有什么副作用
2023-04-19 19:47:51
-
全球微头条丨国家发改委:一季度良好开局充分展现我国经济韧性活力
2023-04-19 19:38:24
-
香港知名女星突然宣布离婚,一度为情自杀,公开出柜自曝是双性恋
2023-04-19 19:23:30
-
京蒙协作 内蒙古苏尼特右旗光储项目发电破亿千瓦时
2023-04-19 19:14:01
-
青海加强知识产权保护 授权专利、注册商标数量五年翻三番
2023-04-19 19:23:27
-
【世界新要闻】四川雅安:打造大数据产业名片
2023-04-19 19:11:20
-
每日讯息!五一假期多条热门线路火车票秒空 14日火车票订单量达春运峰值2倍
2023-04-19 19:18:57
-
世界观察:北京--九寨沟方向旅游专列发车
2023-04-19 19:06:46