1 - 主板介绍
主板资料
技嘉x99 UD4主板是一块中端x99 ATX大板。
技嘉官方网站:
https://www.gigabyte.cn/Motherboard/GA-X99-UD4-rev-10
主板优势:
- 这个主板最大的优势,是有四条 pcie8x 可同时用
- 四条pcie8x同时插的时候,其中还有一条带宽是 pcie 16x.
- 待机功耗低,搭配 e5 2680 v4, 整机待机功耗才 40瓦出头。插四块 hp544+ 也才60瓦出头。
- 有三条 pcie 1x 插槽,可以插亮机卡(改成pcie 1x),2.5g网卡等
主板缺点:
- 板载的 m2 带宽只有 10G,而不是标准的 pcie 3.0 x4 有 32g 带宽,因此限制了 ssd 的速度
- 技嘉的bios简陋的令人发指
- 技嘉的x99主板基本不能超频ring,造成性能低下
主板 bios
官方bios
- x99ud4.rom : 官方原版bios,最新版本。
拆分一条pcie x16的bios
支持将上图中的 x16 插槽拆分为 x8 + x4 + x4。
注意原版bios没有pcie拆分选项,必须要修改bios。
- modud4.rom : 基于官方bios修改之后的bios文件,拆分pcie x16为 x8 + x4 + x4。
拆分一条pcie x16和一条pcie x8的bios
除了支持 x16 插槽拆分为 x4 + x4 + x4 + x4 之外,还将主板最下方(离cpu插座最远)的那条 x8 插槽拆分为 x4 + x4。这样配合常见的pcie 转m2的转换卡可以支持到六条满速的pcie3.0 x4 的m2 SSD。
- modud4x4x4x4x4.rom : 基于官方bios修改之后的bios文件,拆分pcie x16为 x4 + x4 + x4 + x4, 拆分pcie x8为 x4 + x4。
bios 刷新方式
由于是自行修改的bios,会无法通过主板的校验,因此不能用主板bios自带的功能来刷新bios,需要在 dos 下通过命令进行。
先制作纯 dos 的启动 U 盘,然后在 u 盘下复制需要的 efiflash.exe 文件和相关的 rom 文件。
所需的文件打包在这里,解压缩后复制到u盘根目录下即可:
用纯 dos 的 u 盘启动机器,在命令行下输入 mod 刷新修改后的bios, 输入 F 则刷新原版bios。
用途
我先后买了两块这个主板,组了两台机器,主要是看中其 pcie 通道足够多的优点。
2 - 机器1:56g软交换
机器用途
我用这个主板,插了四块 hp544+ 40/56g 网卡,安装 debian12 操作系统,利用 linux bridge 实现了一个 56g 的软交换机,提供8个 56g eth 接口。
如下图所示的 4-way 方案:
其中三条x8的pcie插槽插了三张hp544+网卡。另外,修改主板 bios ,将 x16 的那个插槽拆分为 x8 + x4 + x4, 配置反坦克拆分卡,可以在支持一张 hp544+ 网卡的同时,提供两个满速的 pcie 3.0 x4 的 m2 接口。这样可以同时兼职做纯 ssd 的 nas,目前使用了两根三星pm983a 900G 22110企业级SSD。
反坦克拆分卡如图所示:
可以在闲鱼搜索 “反坦克拆分卡”,价格 130多。
另外配置了一块16T的东芝mg08 机械硬盘,用来在资料备份等对速度要求不高的场合下使用。
debian12 操作系统单独安装在一块256g的三星pm981a 2280 SSD上,这块ssd插在主板自带的速度仅为 10g 的m2插槽上。主要目的是避免nas硬盘更换时不要影响到操作系统。
机器设置
整机包括:主板,e5 2680 v4,8gx4 普通内存,低功耗亮机卡,3个14厘米机箱风扇,普通500瓦atx电源。
由于 e5 2680 v4 不可超频,因此没太多玩法,简单使用即可。
bios设置
开机进入bios后整机99瓦,进入debian操作系统后,整机待机功耗45.5瓦。
为了尽量降低整机功耗,需要的bios设置:
“M.I.T.” -> “Advanced Frequency Settings” -> “Advanced CPU Core Settings”
- Hyper-threading technology: disabled
- cpu enhanced halt (c1e): enabled
- c3 state support: enabled
- c6/c7 state support: enabled
- cpu eist function: enabled
“Chipset”
- Audio controller: disabled
- PCH internal Lan: disabled
- Intel VT for Directed I/O(VT-d): enable
- execute disabled bit: enabled
- intel Virutalization Technology(vt-x): enabled
内存时序
受cpu限制,内存只能跑2400。
TODO: 但内存时序时可以设置的, 有时间调一下,稍微优化一下性能。
3 - 机器2:25g软交换
功耗情况
整机包括:主板,e5 2650 v4,8gx2 普通内存,gt1030低功耗亮机卡,dc电源。开机进入bios后整机99瓦,进入ubuntu server后,整机待机功耗41.3瓦。
后面安装 debian 12 之后的测试,这个主板 + e5 2630l v3,dc电源。在进入系统之后
- 8gx2 普通内存,r5 240低功耗亮机卡,待机40瓦
- 8gx2 普通内存,不插显卡,无头模式进入系统,待机34瓦,也就是r5 240低功耗亮机卡大概是6瓦的待机功耗
- 将内存从8gx2 普通内存换到16g x 4 的 reg ecc 服务器内存,待机54瓦,也就是每条 16g reg ecc 服务器内存需要5-6瓦的功耗
- 继续用8gx2 普通内存,不插显卡(基础功耗为34瓦),增加一块cx4121a网卡,待机功耗增加到44瓦,也就是一块cx4121a网卡大概要10瓦待机功耗。
bios设置
为了尽量降低整机功耗,需要的bios设置:
“M.I.T.” -> “Advanced Frequency Settings” -> “Advanced CPU Core Settings”
- Hyper-threading technology: disabled
- cpu enhanced halt (c1e): enabled
- c3 state support: enabled
- c6/c7 state support: enabled
- cpu eist function: enabled
“C hipset”
- Audio controller: disabled
- PCH internal Lan: disabled
- Intel VT for Directed I/O(VT-d): enable
- execute disabled bit: enabled
- intel Virutalization Technology(vt-x): enabled
机器硬件
cpu 用的是 e5 1660 v3,超全核4.5g,cpuz测试成绩如下:
内存用的是海力士 reg ecc 内存,ddr4 2133,afr 颗粒,四条单根4g内存组成4通道16g。
主板bios超频设置
超频 cpu 到全核 4.5g:
M.I.T. -> “Advanced Frequeency Settings”
CPU Clock Ratio = 45
M.I.T. -> “Advanced Voltage Settings” -> “CPU Core Voltage Control”
CPU VRIN External Override = 1.9v
CPU Vcore = 1.350v
超频 内存 到 ddr4 3200:
M.I.T. -> “Advanced Frequeency Settings”
System Memory Multiplier = 32.00
M.I.T. -> “Advanced Memory Settings”
Memory Timing Mode = Advanced Manual
M.I.T. -> “Advanced Memory Settings” -> “Channel A Memory Sub Timmings”
Cas Latency = 16
tRCD = 20
tRP = 20
tRAS = 40
rRFC = 660
Command Rate(tCMD) = 2 要不要改成1t?
tREFI = 30000
Channel B/C/D 同样设置。
M.I.T. -> “Advanced Voltage Settings” -> ""
DRAM Voltage (Ch A/B) = 1.40v
DRAM Training Voltage (Ch A/B) = 1.40v
DRAM Voltage (Ch C/D) = 1.40v
DRAM Training Voltage (Ch C/D) = 1.40v
主板bios超频设置2
技嘉x99 ud4 主板 + e5 1660 v3 cpu + 英睿达内存8gx4.
基本设置
风扇设置
“M.I.T.” -> “smart fan settings”
- “cpu”: silent
- “2nd System”: 用来给网卡、ssd进行散热,因为风扇转速低,因此需要设置为 “Full Speed”.
虚拟化支持
“chipset”
- 设置 “Intel VT for Directed I/O(vt-d)” 为 enabled
- 设置 “Intel Virtualization Technology(vt-x)” 为 enabled
顺便关闭主板自带的声卡和网卡:
- “Audio Controller”: disabled
- “PCH Internal LAN”: disabled
bios启动设置
“BIOS”
-
“Boot Option Priorities”: 设置为只保留pve一个启动项目。
-
“Bootup Numlock State”: off
-
“Full Screen LOGO Show”: Enabled
-
“Storage Boot Option control”: Disabled
-
“Other PCI Device ROM Priotiry”: Disabled
杂项
“Peripherals”
- “Ambient LED”: off (关闭主板的led灯效)
通电自动启动
“Power”
- 设置 “AC Back” 为 “Always On”
超频设置
cpu超频
“M.I.T.” -> “Advanced Frequency Settings”
- “CPU Clock Ratio”: 45 (超频到全核4.5g)
“Advanced CPU Core Settings”
- “Turbo Current Limit(Watts)”: 200 瓦,功耗墙
- “Core Current Limit(Amps)”: 250 安,电流墙
“M.I.T.” -> “Advanced Voltage Settings” -> “CPU Core Voltage Control”
- “CPU VRIN External Override”: 1.900v
- CPU Vcore: 1.300v (cpu电压)
ring超频
“M.I.T.” -> “Advanced Frequency Settings” -> “Advanced CPU Core Settings”
- “Uncore Ratro”: 34
“M.I.T.” -> “Advanced Voltage Settings” -> “CPU Core Voltage Control”
- “CPU Ring Voltage”: 1.10v
内存超频
“M.I.T.” -> “Advanced Frequency Settings”
- “System Memory Multiplier”: 32 (超频到 ddr4 3200 频率)
“M.I.T.” -> “Advanced Voltage Settings” -> DRAM Voltage Control"
- “DRAM Voltage(CH A/B)": 1.250v
- “DRAM Training Voltage(CH A/B)": 1.250v
- “DRAM Voltage(CH C/D)": 1.250v
- “DRAM Training Voltage(CH C/D)": 1.250v
“M.I.T.” -> “Advanced Memory Settings” -> DRAM Voltage Control”
- “System Memory Multiplier”: 32 (超频到 ddr4 3200 频率)
- “Memory Timing Mode”: “Advanced Manual”
“Channel A Memory sub Timings” (A/B/C/D要同样设置四次):
-
CAS Latency 16
-
tRCD 18
-
tRP 18
-
tRAS 40
-
tRFC 660
-
Command Rate(tCMD) 1
-
tREFI 30000
TODO: 遇到一点问题,超频内存之后,各种测试通过,但是进 pve 8.2 时就会卡住。稍后看怎么解决