400G 的网卡能怎么玩?
捡了两块400G CX7 网卡, 不知道该怎么玩. 能把两台电脑连起来然后可以干什么呢?组集群训练ai如何 当然是装个nas然后文件拖着玩啊
最好可以出个横评,默认状态下哪家nas系统最能发挥这网卡的力量
(快进到都没驱动不认) 这不跑个测速 需要双pcie16的插槽吧 CX7一台训练服务器要8-10块,就两块感觉用处很小。 玩玩 mooncake transfer engine (
anonymz 发表于 2025-2-14 09:01
玩玩 mooncake transfer engine (
“与分布式 PyTorch 使用的 gloo 和TCP 相比,Transfer Engine 具有最低的I/O延迟。在 4×200 Gbps 和 8×400 Gbps RoCE 网络中,Transfer Engine 处理相当于 LLaMA3-70B 模型 128k tokens 生成的 KVCache 大小的 40GB 数据时,能够提供高达 87 GB/s 和 190 GB/s 的带宽,相比 TCP 协议快约 2.4 倍和 4.6 倍。”
这个确实有意思 幸福。。。。。🉐不知所措。。。。
可以把server上的任何东西, nvme/ gpu 当作台式机的本地硬件来用
页:
[1]