多少。
但是还有个取巧的法子,也是源智团队一直在用的。
读不了指标没关系,可以直接计时运算时间,再和英伟达的卡比一比,看看能达到竞品卡的多少效率就可以了。
按说这个阶段还没到测效率的时候,但是看着这么优雅的代码,范小天忍不住了。
万一呢?是吧?
范小天迅速搭了个简单的计时基准:同样的batch大小,同样的序列长度,同样的运算,分别在手头的l100和一张组里共享的h100上跑,计时,对比。
这张h100可是传家宝,也不知道江工是从哪里搞来的,组里一起用来做性能测试的,大家都宝贝得不得了。
参数设好,范小天看着提交键咽了口口水,才按了下去。
进度条跑起来,这次等的时间稍微长一点点,因为性能测试要连续测好几轮,取平均值,这是为了保证测试的稳定性。
大概三分钟。
结果出来了。
l100平均每步用时46毫秒。
对标的英伟达h100平均每步用时48毫秒。
比英伟达还快!
比英伟达的h100还快!
范小天把脸凑近了屏幕,又看了一遍。
他以为自己看错了。
他又往后退了退,眯着眼睛,又看了一遍。
百分之一百零四点二。
之前源智团队一直是把运算效率达到了h100的百分之多少作为性能测试的基准的。
但是这次是l100直接超过了h100,超了百分之四点二!
不对。
不对不对不对。
范小天把测试工具调出来,准备再跑一遍。
要是刚才那遍是跑错了怎么办?
又是三分钟。
结果和刚才一样。
l100在【注意力融合反向算子】上的单步运算速度稳定的超过了h100。
范小天抬起头,眼睛里露出迷茫的神色。
这个世界是怎么了?
我不是回来追求理想,报效祖国,突破万恶的美弟国主义算力封锁的吗?
怎么突然一下国家就不需要我的帮助了?
怎么国产卡已经算力突破了?
范小天在椅子上坐了很久,没有动。
这时,模型组的小牛从外面进来,手里提着一个外卖盒。