找回密码
 加入我们
搜索
      
查看: 9764|回复: 49

[网络] 捡漏cx6dx 双口25G网卡

[复制链接]
发表于 2024-2-16 23:25 | 显示全部楼层 |阅读模式
本帖最后由 tmhl0cr5 于 2024-2-16 23:25 编辑

年前闲来无事 整了一台p3tiny折腾 想着正好乘机升级一波25G内网
奈何1L小主机内部空间过于极限 ocp网卡转接后会越肩 塞不进机器
cx542b + ocp转接卡方案 可以参考我这个帖子
于是进度搁置 在群里吹水发现mellanox的CX6和cx7支持ZTR-RTTCC
高速网络rdma是必不可少的 ztr跑在RoCEv2上并且无视交换机是否支持rdma

(本人纯小白 上述是参考以下视频的理解 如果有错误麻烦大佬指正)

【家里的交换机不支持RDMA,怎么办-哔哩哔哩】

IMG_20240216_222732.jpg
我被这样的特性瞬间种草 在小黄鱼找了下 价格均在1500+ 没忍心下手
前两天在小黄鱼闲逛居然发现了一张标价1k的 砍到800老板居然瞬间答应了
今天终于收到了

IMG_20240216_215809.jpg
IMG_20240216_215931.jpg
成色还算不错 21年11月出厂 压缩空气吹了一下 很新 舒服了

火速上机
下载驱动 mlx5cmd -temperature一看 温度直逼90℃

《mellanox就没有凉快的卡》于是……
IMG_20240216_220609.jpg

简单粗暴温度降至40℃
mst工具查看了一下这卡居然是ibm拆机的 去ibm官网找了一圈没有固件下载
mmexport1708066916541.jpg

于是在mellanox官网下了原厂固件 刷写固件的时候加了一条-allow_psid_change
很顺利地刷进去了
mmexport1708067561726.jpg

mmexport1708071768737.png

目前为止就是散热不太优雅
IMG_20240216_231128.jpg

测量了一下散热片孔距约为44mm*52mm
淘宝找到一个孔距为43mm*51mm的散热片 长宽各差1mm
不过是弹簧钉固定的问题应该不大
IMG_20240216_231436.jpg

4010风扇可更换 还是不错滴 在立创商城买了两个建准风扇
原装是含油轴承的不适合长期开机使用 换个建准省心一点
也买了压线端子和胶壳准备做风扇接口
提一嘴我的p3tiny是全功能主板 有三条m2和两个sata
pcie后面还有一个1.25 4pin的风扇接口(极大便利我改装网卡散热)
IMG_20240216_232133.jpg

接下来就是等工具到齐了 本人在校学生马上就要被抓进学校了
高三学业比较繁重 之后有空了会更新网卡散热贴 以及25G内网搭建帖







评分

参与人数 2邪恶指数 +10 收起 理由
kirl2010 + 5 支持一下又精力折腾的高三娃
烨庆 + 5 就是NB

查看全部评分

发表于 2024-2-16 23:29 | 显示全部楼层
新特性也需要系统和app的支持吧
 楼主| 发表于 2024-2-16 23:33 来自手机 | 显示全部楼层
iooo 发表于 2024-2-16 23:29
新特性也需要系统和app的支持吧

NAS winserver2022 电脑 win11专业工作站可以起rdma 配置可以参考b站总想搞点奇怪的大佬的这期专栏 【Mellanox网卡RDMA配置(Windows)(2024年2月更新)-哔哩哔哩】 https://b23.tv/xKV3p54
发表于 2024-2-17 00:18 | 显示全部楼层
高三的学生啊。。厉害,跟帖学习
 楼主| 发表于 2024-2-17 12:55 来自手机 | 显示全部楼层
zexin4 发表于 2024-2-17 00:18
高三的学生啊。。厉害,跟帖学习

谢谢大佬支持
发表于 2024-2-17 13:31 来自手机 | 显示全部楼层
高三就能捣鼓硬件了,挺好。。我大学才学会用电脑。。另外风扇最好用涡轮那种,就是噪音大点
发表于 2024-2-17 13:51 来自手机 | 显示全部楼层
其实E810也不错,同样支持RDMA
发表于 2024-2-17 14:52 | 显示全部楼层
某鱼找了一圈,没找到。求购买地址,谢谢!
 楼主| 发表于 2024-2-17 14:57 来自手机 | 显示全部楼层
喜又此理 发表于 2024-2-17 14:52
某鱼找了一圈,没找到。求购买地址,谢谢!

那个卖家只有一张
 楼主| 发表于 2024-2-17 15:00 来自手机 | 显示全部楼层
港城钢铁侠 发表于 2024-2-17 13:51
其实E810也不错,同样支持RDMA

确实 e810也不错的 听说intel的卡比较耐艹?
 楼主| 发表于 2024-2-17 15:01 来自手机 | 显示全部楼层
weindy 发表于 2024-2-17 13:31
高三就能捣鼓硬件了,挺好。。我大学才学会用电脑。。另外风扇最好用涡轮那种,就是噪音大点 ...

生命在于折腾! 涡轮风扇确实是个好思路 可以顺带吹到笼子给模块散热
发表于 2024-2-19 11:02 | 显示全部楼层
居然还有15后玩BBS。。 BBS这种上古时代交流工具,我以为最年轻的的都是90后呢
发表于 2024-2-19 15:18 来自手机 | 显示全部楼层
tmhl0cr5 发表于 2024-2-17 15:00
确实 e810也不错的 听说intel的卡比较耐艹?

intel的x550,x710,e810我都用过。跟同时代的mellanox比较落后大约两代。譬如mellanox用connectx3 vs x710 40g,connectx-4 vs e810 100g,之后intel就没有能够匹敌的了。两边的差距主要在驱动方面,mellanox的完整性是很高的,高级功能更是比intel厉害得多。从性能的角度来说,也是mellanox赢很多。最后,intel还贵…这就是论坛里为什么大部分人对高端网卡都推荐mellanox的原因
 楼主| 发表于 2024-2-19 20:50 来自手机 | 显示全部楼层
summerq 发表于 2024-2-19 15:18
intel的x550,x710,e810我都用过。跟同时代的mellanox比较落后大约两代。譬如mellanox用connectx3 vs x7 ...

确实 貌似intel最新的e810才支持rdma 不过我看intel网卡支持拆分 这点倒是不错
 楼主| 发表于 2024-2-19 20:56 来自手机 | 显示全部楼层
w4546711 发表于 2024-2-19 11:02
居然还有15后玩BBS。。 BBS这种上古时代交流工具,我以为最年轻的的都是90后呢 ...

我以前就常逛一些游戏论坛以及动漫论坛 加上我对当今短视频文化不怎么感兴趣 所以没事干就会刷论坛😂
发表于 2024-2-19 21:27 来自手机 | 显示全部楼层
tmhl0cr5 发表于 2024-2-19 20:56
我以前就常逛一些游戏论坛以及动漫论坛 加上我对当今短视频文化不怎么感兴趣 所以没事干就会刷论坛😂 ...

恭喜你 进入老头乐的阶段
发表于 2024-2-19 22:48 | 显示全部楼层
不知道 DELL LX版本的 能不能自己下載 MCX631102AC-ADAT 官方原廠固件來刷
我看列表有支持 加密 不加密 和 支持安全啟動 不同選項的固件
发表于 2024-2-19 23:22 | 显示全部楼层
a1990330 发表于 2024-2-19 22:48
不知道 DELL LX版本的 能不能自己下載 MCX631102AC-ADAT 官方原廠固件來刷
我看列表有支持 加密 不加密 和  ...

这个你可以使用下面这个命令确认(把mtxxx换成你的网卡名称)
  1. flint -d mtxxx q
复制代码


执行以后看Security Attributes项后面有没有显示secure-fw。安全固件锁,有的话就不能直接使用-allow_psid_change刷,如果显示N/A的话就可以直接添加前面那段命令忽略PSID刷入官方固件。
发表于 2024-2-19 23:53 | 显示全部楼层
现在用着X540,正准备换成X710。都选的散热片很大很长的款式。。
发表于 2024-2-19 23:59 来自手机 | 显示全部楼层
有的吃 发表于 2024-2-19 23:53
现在用着X540,正准备换成X710。都选的散热片很大很长的款式。。

散热片很大的是x710,发热大。新款是x710-t2l或者x710-t4l,散热片很小,发热也小,但依然需要风道
 楼主| 发表于 2024-2-19 23:59 来自手机 | 显示全部楼层
有的吃 发表于 2024-2-19 23:53
现在用着X540,正准备换成X710。都选的散热片很大很长的款式。。

家里有手电钻和丝锥的话可以自己diy散热片 淘宝买个现成的带风扇的散热片 用2mm钻头打四个个孔 再用2.5mm丝锥套丝 搞几个垫片就行
发表于 2024-2-20 00:03 来自手机 | 显示全部楼层
温度温度还是温度
发表于 2024-2-20 00:06 | 显示全部楼层
summerq 发表于 2024-2-19 23:59
散热片很大的是x710,发热大。新款是x710-t2l或者x710-t4l,散热片很小,发热也小,但依然需要风道 ...

我的X540散热片和卡本身差不多长度了。。赛思灵的版本 看了制程是40NM,功耗13瓦

然后X710是28NM制程,买的版本是散热片差不多卡2/3的长度,功耗7瓦
 楼主| 发表于 2024-2-20 00:11 | 显示全部楼层
hcym 发表于 2024-2-20 00:03
温度温度还是温度

简单搞了下 这样至少不会把卡热死了
IMG_20240218_152359.jpg
IMG_20240218_123623.jpg
降到60℃左右 这个风扇有个缺点
风没法吹到边上鳍片 效能很差
准备之后换个adda的无框扇子试一下
发表于 2024-2-20 02:11 来自手机 | 显示全部楼层
本帖最后由 summerq 于 2024-2-20 02:41 编辑
tmhl0cr5 发表于 2024-2-20 00:11
简单搞了下 这样至少不会把卡热死了




60度可以了,我的cx4 25g,自带散热,温度也59度了
IMG_5897.jpeg

https://www.chiphell.com/forum.p ... pe=1&mobile=yes
发表于 2024-2-20 16:05 | 显示全部楼层
aixunxian 发表于 2024-2-19 23:22
这个你可以使用下面这个命令确认(把mtxxx换成你的网卡名称)

查詢結果
Security Attributes:   secure-fw
..........
鎖住了
发表于 2024-2-20 16:55 | 显示全部楼层
a1990330 发表于 2024-2-20 16:05
查詢結果
Security Attributes:   secure-fw
..........

很多OEM的cx6都带那个安全固件锁。直接用命令只能刷PSID一样的固件进去,不然不让你刷。除非你进到固件恢复模式强制刷入
发表于 2024-2-20 19:56 | 显示全部楼层
tmhl0cr5 发表于 2024-2-17 15:00
确实 e810也不错的 听说intel的卡比较耐艹?

得了吧  e810一堆堆的bug  行业内恶臭啊~
发表于 2024-2-21 09:13 | 显示全部楼层
看了最后一条后提问

【师傅,你干什么工作的啊】
发表于 2024-2-22 18:44 | 显示全部楼层
这玩意咸鱼950买过一个,开机直接100度。。。
您需要登录后才可以回帖 登录 | 加入我们

本版积分规则

Archiver|手机版|小黑屋|Chiphell ( 沪ICP备12027953号-5 )沪公网备310112100042806 上海市互联网违法与不良信息举报中心

GMT+8, 2024-11-22 18:02 , Processed in 0.021202 second(s), 7 queries , Gzip On, Redis On.

Powered by Discuz! X3.5 Licensed

© 2007-2024 Chiphell.com All rights reserved.

快速回复 返回顶部 返回列表