SRAM概念发酵,Groq计算速度超越英伟达?睿能科技4连板

Sora火爆出圈,让更多新技术、新概念横空出世。

2月21日开盘,SRAM概念继续发酵,睿能科技(603933.SH)涨停,北京君正(300223.SZ)、光韵达(300227.SZ)、万润科技(002654.SZ)等个股跟涨。

消息面上,AI芯片公司Groq宣布,其大模型Groq每秒输出近500个token,成为全球最快的大模型。

    

响应速度碾压GPT-4

相比其他产品,Groq闪电般的响应速度引发热议。经过网友测试,Groq每秒生成速度接近500tok/s,几乎可以碾压GPT-4的40tok/s。

据了解,能够拥有如此之快的响应速度,主要是Groq使用了自研的新型AI芯片LPU,而没有采用英伟达的GPU。

LPU芯片,是Groq专门为图形渲染而设计,包含数百个核心的并行处理器,能够为AI计算提供稳定的性能。

相关资料显示,Groq是由谷歌TPU第一代设计者乔纳森·罗斯于2016年创立的。Groq重新设计了一个处理器(TSP)架构,以加速人工智能、机器学习和高性能计算中的复杂工作负载,并把它定义为“语言处理单元”,也就是LPU。

与GPU使用高带宽存储器(HBM)不同的是,LPU使用的是静态随机存储器(SRAM)。

市场资金追捧

强大的性能和快速的响应能力,集众多优势于一身的SRAM概念迅速引来市场资金的追捧。

2月20日,北京君正尾盘突然直线拉升。21日开盘后,其股价再度冲高。据了解,北京君正多年来持续投入于多媒体编解码、影像信号处理、AI引擎、AI算法等核心领域并形成自有技术能力。公司的主营产品就包括嵌入式存储和静态随机存储器(SRAM)。因此,公司股票受到资金的强烈关注。

睿能科技是专业从事工业自动化产品研发、生产、销售、服务的高科技企业。公司是国内领先的IC产品授权分销商,目前主要代理英飞凌、微芯科技、PI公司等全球知名IC设计制造商的产品,分销的IC产品主要包括集成电路芯片和其他电子元件。2月21日早盘,睿能科技分歧后迅速上板,近日已收获4连板。

光韵达近3个交易日累计上涨21.6%,公司是激光智能制造解决方案与服务提供商,通过精密激光技术+智能控制技术实现了生产方式的突破,主要产品包括增材制造(3D打印)、激光三维电路(3D-LDS)、精密激光模板等。公司较早就布局了半导体等新兴产业,并积极推动国产替代。

SRAM能否颠覆行业?

市场一致追捧,但SRAM短期内能否彻底颠覆行业呢?

不少存储界专业人士给出的答案是:No!

据了解,内存主要分为DRAM动态随机存储器和SRAM静态随机存储器。目前,HBM是AI芯片领域广泛使用的一种高性能DRAM。

与DRAM相比,SRAM的优点是速度快(高存取速度),但缺点同样明显,那就是太贵了。

根据Groq介绍,一张LPU配备一块SRAM,内存容量为230MB。一张LPU卡的售价超过2万美元。

有行业大佬测算得出,由于Groq的内存容量较小,在运行Llama-2 70b模型时,其往往需要350张Groq卡才足够,而英伟达的H100则只需要8张卡。

从价格来看,在同等吞吐量下,Groq的硬件成本是H100的40倍,能耗成本是10倍。这个性价比意味着SRAM暂时还无法颠覆HBM,LPU也不足以颠覆GPU。因此,有观点认为,GPU和HBM仍然是当前满足AI需求的最佳方案。

业内人士直言,Groq路径短期内不具备大规模使用的可能性,也就不可能颠覆GPU了。

发表评论

您的电子邮箱地址不会被公开。 必填项已用 * 标注

滚动至顶部