找回密码
 加入我们
搜索
      
查看: 9637|回复: 28

[NAS] pve直通 lsi 2308碰到问题了

[复制链接]
发表于 2023-9-13 22:35 | 显示全部楼层 |阅读模式
本帖最后由 qaw123232qaw 于 2023-9-14 20:10 编辑


麻烦大家翻到帖子最后

直通 sata控制器没问题了,直通 lsi扩展卡虚拟机启动不了


发表于 2023-9-13 22:45 | 显示全部楼层
你直通可以直接把控制器直通了

你用的扩展卡吗?

b550重炮不是4个sata么


或者说只有4个原生的,剩下两个或者啥都是拓展芯片转接的


我自己就是把拓展的asm1066芯片直接在设备里直通给黑群晖的
发表于 2023-9-13 22:46 来自手机 | 显示全部楼层
直通控制器?
发表于 2023-9-13 23:05 | 显示全部楼层
本帖最后由 ksoftirqd 于 2023-9-13 23:10 编辑

在添加硬盘的窗口里可以看到sata的编号只有0-5
而scsi的编号可以是0-30

因此,建议以scsi的类型来直通磁盘
qm set 100 -scsi6,然后加上其他的参数
scsi6可以改成任何空闲的编号,比如scsi10这样的

编辑:sata磁盘和scsi磁盘的编号互相无关,如果之前没加过scsi磁盘的话,从scsi0开始也可以
 楼主| 发表于 2023-9-14 07:20 | 显示全部楼层
ksoftirqd 发表于 2023-9-13 23:05
在添加硬盘的窗口里可以看到sata的编号只有0-5
而scsi的编号可以是0-30

这个方法好,不过有个问题,总览图 硬盘信息里, 没有这两个硬盘, 实际HDD/SSD列表里有的, 还有另外一个问题,怎么让插槽里显示从1开始啊, 直接8 9, 强迫症看着太难受了
n1.jpg
n2.jpg
发表于 2023-9-14 08:09 | 显示全部楼层
物理黑裙改pve还用得着这么麻烦吗,直接把原引导盘读出保存为img,给pve的黑裙做引导,其他直通。启动后跟物理机一毛一样,什么都不用动,配置、数据啥啥都在,没区别。不想用pve改回物理黑裙时,只需将img再写到U盘启动即可。
两个可以来回任意切,看心情,随便玩。
发表于 2023-9-14 09:07 | 显示全部楼层
qaw123232qaw 发表于 2023-9-14 07:20
这个方法好,不过有个问题,总览图 硬盘信息里, 没有这两个硬盘, 实际HDD/SSD列表里有的, 还有另外一 ...

建议放弃强迫症毕竟这页面又不是天天需要看,更多时候是文件夹smb挂载到电脑上直接使用
 楼主| 发表于 2023-9-14 09:17 | 显示全部楼层
hawie 发表于 2023-9-14 08:09
物理黑裙改pve还用得着这么麻烦吗,直接把原引导盘读出保存为img,给pve的黑裙做引导,其他直通。启动后跟 ...

关键就是这个 “其他直通”啊, 如果所有硬盘都能顺利直通,还真的就是什么不动, 哪怕升级也是全部系统自己搞定了,所有设定, raid, 网络共享什么的,都在的



 楼主| 发表于 2023-9-14 09:27 | 显示全部楼层
大头吃小头 发表于 2023-9-13 22:45
你直通可以直接把控制器直通了

你用的扩展卡吗?

好像直通sata控制器报 io 读写错误, 启动虚拟机直接导致pve崩掉
我用的pve 8.0,  和7.x好像不太一样, 我看7.x 还要设置什么iommu什么的,8.0的grub里都没有, 而且我没做任何设置, 硬盘是可以直接直通的
发表于 2023-9-14 09:30 来自手机 | 显示全部楼层
已经物理的能保留数据改吗?
发表于 2023-9-14 09:41 | 显示全部楼层
qaw123232qaw 发表于 2023-9-14 09:17
关键就是这个 “其他直通”啊, 如果所有硬盘都能顺利直通,还真的就是什么不动, 哪怕升级也是全部系统 ...

你上面那个不叫直通,或者叫RDM直通,实质只是映射,不是物理直通。硬盘I/O延迟要放大约10倍。
物理直通不难,小小研究一下就行的。
发表于 2023-9-14 10:39 | 显示全部楼层
不推荐RDM直通,这样群晖是无法读取到硬盘smart信息。

直通Sata控制器或者hba或者是sata扩展卡都是可以让群晖获取到硬盘的smart信息,这样起码放心点。
发表于 2023-9-14 12:43 来自手机 | 显示全部楼层
qaw123232qaw 发表于 2023-9-14 09:27
好像直通sata控制器报 io 读写错误, 启动虚拟机直接导致pve崩掉
我用的pve 8.0,  和7.x好像不太一样,  ...

你在直通设备里就可以看到iommu分组了,如果设备在一组iommu里就通不成,一通就崩溃,主板里开iommu后再看分组(不过我是修改那啥添加了acs还是啥的参数,一个设备一个iommu分组避免了这个问题
 楼主| 发表于 2023-9-14 14:11 | 显示全部楼层
我擦,我就直接qm set 过去的,原来是 RDM 直通啊,怪不得 看硬盘信息序列号都没有,全都是QM000xx , 多谢大家指点,我再研究看看
发表于 2023-9-14 15:31 | 显示全部楼层
qaw123232qaw 发表于 2023-9-14 09:27
好像直通sata控制器报 io 读写错误, 启动虚拟机直接导致pve崩掉
我用的pve 8.0,  和7.x好像不太一样,  ...

b550的话好像sata控制器那些全在pch的iommu分组里面,直通的话会把主机上所有这个分组的设配全搞到虚拟机上,然后主机就是“挂掉”
 楼主| 发表于 2023-9-14 15:44 | 显示全部楼层
本帖最后由 qaw123232qaw 于 2023-9-14 15:50 编辑
Dk2014 发表于 2023-9-14 15:31
b550的话好像sata控制器那些全在pch的iommu分组里面,直通的话会把主机上所有这个分组的设配全搞到虚拟机 ...


那就是不能直通sata了? 我这边添加 pci 界面是这样的, 我只在grub里修改了  GRUB_CMDLINE_LINUX_DEFAULT="quiet amd_iommu=on" , 原来是  GRUB_CMDLINE_LINUX_DEFAULT="quiet", 但是改之前添加pci也是那样的  
1.png
2.jpg
 楼主| 发表于 2023-9-14 16:00 | 显示全部楼层
搜到个拆分 iommu分组的帖子,准备试试
https://blog.csdn.net/venusic/article/details/131493439
3.jpg
发表于 2023-9-14 16:03 | 显示全部楼层
为啥不用esxi呢
发表于 2023-9-14 16:25 来自手机 | 显示全部楼层
qaw123232qaw 发表于 2023-9-14 15:44
那就是不能直通sata了? 我这边添加 pci 界面是这样的, 我只在grub里修改了  GRUB_CMDLINE_LINUX_DEFAUL ...

grub里开acs补丁  主板里开iommu 能分开就是可以不能分开就是主板问题解决不了了。  我主板都没开iommu还是咋回事主板SATA控制器都不显示,开了acs 外置控制器分的明明白白直接用外置控制器直通了
 楼主| 发表于 2023-9-14 16:28 | 显示全部楼层
大头吃小头 发表于 2023-9-14 16:25
grub里开acs补丁  主板里开iommu 能分开就是可以不能分开就是主板问题解决不了了。  我主板都没开iommu还 ...

嗯,您是对的,我也搜到了
GRUB_CMDLINE_LINUX_DEFAULT="quiet amd_iommu=on pcie_acs_override=downstream,multifunction"

这样是可行的,我看sata控制器已经是独立分组了
 楼主| 发表于 2023-9-14 16:29 | 显示全部楼层

新手, 也是对比了下两个的差异,说pve可能容易上手一些,还是免费的,就用这个了
 楼主| 发表于 2023-9-14 19:26 | 显示全部楼层
本帖最后由 qaw123232qaw 于 2023-9-14 19:30 编辑

哎,下午只是远程操作pve了能看到独立iommu分组了,添加了pci设备后, 没敢尝试启动虚拟机,到家后启动居然不行, 启动报错 start failed: qemu exit with code 1,  添加的直通pci拿掉就没问题, 好像是直通的lsi扩展卡有问题,单独直通sata 控制器能启动了,再多尝试看看
发表于 2023-9-14 19:46 | 显示全部楼层
lsi都是正常直通的,看看哪里设置错了
 楼主| 发表于 2023-9-14 20:00 | 显示全部楼层
MatthewLXJ 发表于 2023-9-14 19:46
lsi都是正常直通的,看看哪里设置错了


iommu分组已经是独立的了, 添加上去启动最后就卡在 booting from hard disk 了

6.jpg
7.jpg
8.jpg
 楼主| 发表于 2023-9-14 20:05 | 显示全部楼层
启动过程有个提示 按 ctrl+c 进入一个什么 config utility,  按ctrl + c后是下面样子
9.jpg
 楼主| 发表于 2023-9-14 20:48 | 显示全部楼层
本帖最后由 qaw123232qaw 于 2023-9-14 20:51 编辑

感觉添加了lsi直通后, 就从这里引导了,而不是我添加的sata0引导盘

10.jpg
11.jpg
发表于 2023-9-14 20:52 | 显示全部楼层
qaw123232qaw 发表于 2023-9-14 20:00
iommu分组已经是独立的了, 添加上去启动最后就卡在 booting from hard disk 了

...


啊~26楼有了。。。
发表于 2023-9-14 21:01 | 显示全部楼层
qaw123232qaw 发表于 2023-9-14 20:48
感觉添加了lsi直通后, 就从这里引导了,而不是我添加的sata0引导盘

把ROM-bar的✓去掉
 楼主| 发表于 2023-9-14 21:19 | 显示全部楼层

大哥,你太帅了, 拿掉就ok了, 容我膜拜一下
您需要登录后才可以回帖 登录 | 加入我们

本版积分规则

Archiver|手机版|小黑屋|Chiphell ( 沪ICP备12027953号-5 )沪公网备310112100042806 上海市互联网违法与不良信息举报中心

GMT+8, 2024-12-28 22:32 , Processed in 0.017202 second(s), 6 queries , Gzip On, Redis On.

Powered by Discuz! X3.5 Licensed

© 2007-2024 Chiphell.com All rights reserved.

快速回复 返回顶部 返回列表