5090D和5090 ai算力的区别主要体现在什么场景？

zhgbbs

不太明白，有具体例子吗？比如LLM大模型的训练速度？推理速度？

PolyMorph

4倍插帧开起来差10%

l0stc0mpass

推理速度、训练速度肯定受影响。这个差距对个人来说不会有质的影响，但对多卡企业来说肉眼可见有影响毕竟要乘以卡数量。个人你不会持续一个月跑高强度的训练的，因为你也不想你家电表爆掉。企业要的就是效率，每U算力也会影响机房成本等多方面，不差钱的肯定专业卡，但很多公司就是用90卡。

pdvc

Tensor算力，5090D比4090D都稍差。

主要体现在基于TensorRT的LLM/绘图等AIGC量化算法和CNN/GAN的CV算法。

pdvc

l0stc0mpass 发表于 2025-1-16 15:01
推理速度、训练速度肯定受影响。这个差距对个人来说不会有质的影响，但对多卡企业来说肉眼可见有影响毕竟要 ...

影响不大，因为这个性能和显存，也就能微调一下。大都是推理用，推理主要看显存带宽，这个没阉割。不过AIGC绘图和CV算法肯定要受影响了。

我輩樹である

卡拿到了我再来跟你说。

powerduke

看网上计算中心的宣传，4090D做计算中心居然性价比更高
https://blog.csdn.net/bumblexbee/article/details/137353315

“评测结论
通过上面的测试数据我们得出以下结论。
在 SD 测试中4090D 的性能约为 4090 的 98%-99%。
在 Llama2-7b 的测试中4090D 的性能约为 4090 的 96.5%。
在 Llama2-70b 的测试中4090D 的性能约为 4090 的 97%。”

cldzyc

pdvc 发表于 2025-1-16 15:05
Tensor算力，5090D比4090D都稍差。

主要体现在基于TensorRT的LLM/绘图等AIGC量化算法和CNN/GAN的CV算法。 ...

5090D算力对比4090、4090D大概差多少啊，有详细数据吗

Illidan2004

我輩樹である 发表于 2025-1-16 15:10
卡拿到了我再来跟你说。

像播放器挂rife esrgan这种现在会跑cuda core还是tensor core?

我輩樹である

Illidan2004 发表于 2025-1-16 17:30
像播放器挂rife esrgan这种现在会跑cuda core还是tensor core?

tensor core。

pdvc

Illidan2004 发表于 2025-1-16 17:30
像播放器挂rife esrgan这种现在会跑cuda core还是tensor core?

跑的TerosrRT的

gartour

Illidan2004 发表于 2025-1-16 17:30
像播放器挂rife esrgan这种现在会跑cuda core还是tensor core?

播放器跑的都是tensor版本

也有ncnn跑cuda的版本，慢，所以没人用

flankerli

但是对于游戏来说，即便5090D开四倍插针的算力也是富裕的。所以才说游戏党5090D够用了

Illidan2004

gartour 发表于 2025-1-16 23:27
播放器跑的都是tensor版本

也有ncnn跑cuda的版本，慢，所以没人用

嗯 我好像是看到有tensorRT和NCNN的 那确实是不一样

wind88

pdvc 发表于 2025-1-16 15:05
Tensor算力，5090D比4090D都稍差。

主要体现在基于TensorRT的LLM/绘图等AIGC量化算法和CNN/GAN的CV算法。 ...

这个算力fp64，int8等官网公布的都是理论算力吧，实际在匹配软件时候都不会同程度衰减？

feimiao

个人觉得没什么太大纠结 多等个10秒没啥问题

TincoJ

我现在还在用22GB的2080ti在跑呢，一年前花了700改装.
我感觉可以等50系铺开之后找找性价比更高的卡了

8xwob3ko

powerduke 发表于 2025-1-16 15:33
看网上计算中心的宣传，4090D做计算中心居然性价比更高
https://blog.csdn.net/bumblexbee/article/details ...

这种都是针对个人的测试啊