Hitachi

[アドバイザリ]
VMware環境においてネットワークアダプターを7枚以上搭載している場合にネットワークアダプターの一部のポートが使用できない現象について

概要

VMware環境においてネットワークアダプターを7枚以上搭載している場合にネットワークアダプターの一部のポートが使用できない場合があります。

発生頻度

低

現象および影響範囲

VMware環境において、ネットワークアダプターを7枚以上搭載している場合に、VMwareで制限されているネットワークハードウェアの最大数を超えていなくても、ネットワークアダプターの一部のポートが使用できない場合があります。

※ESXiホストのネットワークの最大数については、以下の資料を参照してください。

  • VMware Configuration Maximums

NOTE: 上記のリンクをクリックすると、Hitachi, Ltd.以外のWebサイトが表示されます。Hitachiは、Hitachi外部のWebサイトの情報を管理しておらず、また、それらに関する責任も負いません。

例
以下の構成例では、オンボードLANのEthernet 1Gb 4ポート BCM5719アダプターの他に、FlexFabric 10Gb 4ポート FLR-T 57840Sアダプターが1枚と、Ethernet 10Gb 2ポート BASE-T BCM57416アダプターが6枚搭載されています。
しかし、コマンド「esxcli network nic list」を実行すると、FlexFabric 10Gb 4ポート FLR-T 57840Sアダプターの4ポートのうち2ポートしか表示されていません。(vmnic4とvmnic5は表示され、vmnic6とvmnic7が表示されていません。)

esxcli network nic list

Name PCI Device Driver Admin Status Link Status Speed Duplex MAC Address MTU Description

------- ------------ ------- ------------ ----------- ----- ------ ----------------- ---- -----------
vmnic0 0000:02:00.0 ntg3 Up Up 1000 Full 94:40:c9:1f:9f:76 1500 Broadcom Corporation NetXtreme BCM5719 Gigabit Ethernet
vmnic1 0000:02:00.1 ntg3 Up Up 1000 Full 94:40:c9:1f:9f:77 1500 Broadcom Corporation NetXtreme BCM5719 Gigabit Ethernet
vmnic10 0000:13:00.0 bnxtnet Up Up 1000 Full 9c:dc:71:b3:df:10 1500 Broadcom BCM57416 NetXtreme-E 10GBASE-T RDMA Ethernet Controller
vmnic11 0000:13:00.1 bnxtnet Up Up 1000 Full 9c:dc:71:b3:df:18 1500 Broadcom BCM57416 NetXtreme-E 10GBASE-T RDMA Ethernet Controller
vmnic12 0000:88:00.0 bnxtnet Up Up 1000 Full 9c:dc:71:bb:24:c0 1500 Broadcom BCM57416 NetXtreme-E 10GBASE-T RDMA Ethernet Controller
vmnic13 0000:88:00.1 bnxtnet Up Up 1000 Full 9c:dc:71:bb:24:c8 1500 Broadcom BCM57416 NetXtreme-E 10GBASE-T RDMA Ethernet Controller
vmnic14 0000:b0:00.0 bnxtnet Up Up 1000 Full 9c:dc:71:b3:54:70 1500 Broadcom BCM57416 NetXtreme-E 10GBASE-T RDMA Ethernet Controller
vmnic15 0000:b0:00.1 bnxtnet Up Up 1000 Full 9c:dc:71:b3:54:78 1500 Broadcom BCM57416 NetXtreme-E 10GBASE-T RDMA Ethernet Controller
vmnic16 0000:d8:00.0 bnxtnet Up Up 1000 Full f4:03:43:ea:aa:70 1500 Broadcom BCM57416 NetXtreme-E 10GBASE-T RDMA Ethernet Controller
vmnic17 0000:d8:00.1 bnxtnet Up Up 1000 Full f4:03:43:ea:aa:78 1500 Broadcom BCM57416 NetXtreme-E 10GBASE-T RDMA Ethernet Controller
vmnic18 0000:d9:00.0 bnxtnet Up Up 1000 Full 9c:dc:71:b3:df:50 1500 Broadcom BCM57416 NetXtreme-E 10GBASE-T RDMA Ethernet Controller
vmnic19 0000:d9:00.1 bnxtnet Up Up 1000 Full 9c:dc:71:b3:df:58 1500 Broadcom BCM57416 NetXtreme-E 10GBASE-T RDMA Ethernet Controller
vmnic2 0000:02:00.2 ntg3 Up Up 1000 Full 94:40:c9:1f:9f:78 1500 Broadcom Corporation NetXtreme BCM5719 Gigabit Ethernet
vmnic3 0000:02:00.3 ntg3 Up Up 1000 Full 94:40:c9:1f:9f:79 1500 Broadcom Corporation NetXtreme BCM5719 Gigabit Ethernet
vmnic4 0000:5d:00.0 qfle3 Up Up 1000 Full 9c:dc:71:ca:3e:40 1500 QLogic Inc. QLogic 57840 10 Gigabit Ethernet Adapter
vmnic5 0000:5d:00.1 qfle3 Up Up 1000 Full 9c:dc:71:ca:3e:42 1500 QLogic Inc. QLogic 57840 10 Gigabit Ethernet Adapter
vmnic8 0000:37:00.0 bnxtnet Up Up 1000 Full 9c:dc:71:bb:22:50 1500 Broadcom BCM57416 NetXtreme-E 10GBASE-T RDMA Ethernet Controller
vmnic9 0000:37:00.1 bnxtnet Up Up 1000 Full 9c:dc:71:bb:22:58 1500 Broadcom BCM57416 NetXtreme-E 10GBASE-T RDMA Ethernet Controller

この問題は、ドライバモジュールで使用可能な割り込みの数を制限するvmkernel条件が原因で発生します。上記の例では、qfle3ドライバモジュールが構成されているすべてのネットワークアダプターにバインドされていません。
PCIパススルーデバイスが多数の割り込みの割り当てを要求する場合、制限に達する可能性があり、その結果、この問題が発生します。詳細については、以下に示すVMwareナレッジベースを参照してください。

  • Increasing maxIntrCookies if default limit is reached in ESXi 6.x (78182)

NOTE: 上記のリンクをクリックすると、Hitachi, Ltd.以外のWebサイトが表示されます。Hitachiは、Hitachi外部のWebサイトの情報を管理しておらず、また、それらに関する責任も負いません。

この問題がシステムに影響を及ぼしているかどうか確認する場合は、「/var/run/log/vmkernel.log」を確認し、以下のようなメッセージがあるか確認してください。
WARNING: IntrCookie: 1421: Unable to find a free interrupt number; see https://kb.vmware.com/s/article/78182

回避策

ドライバモジュールがネットワークアダプターにバインドされるように、以下の手順で追加リソースを増やしてください。

  1. 以下のコマンドを実行します。
    esxcli system settings kernel set -s maxIntrCookies -v 4096
  2. サーバーを再起動すると、影響を受けているネットワークポートが使用可能になります。

対策方法

対策方法はありません。

対象製品

対象製品名 すべてのネットワークアダプターが対象になります。

iLO Webインターフェイス画面で表示されるネットワークアダプターの名称が製品名と異なる場合があります。詳細はADV-2022-0112を参照ください。
対象装置 HA8000V/DL380 Gen10
HA8000V/DL380 Gen10 for Nutanix
HA8000V/DL580 Gen10
HA8000V/DL380 Gen10 Plus
HA8000V/DL380 Gen11
HA8000V/DL560 Gen11

発生条件

ネットワークアダプターを7枚以上搭載している場合に、本現象が発生する場合があります。

対象バージョン

バージョン依存はありません。

対象OS

VMware ESXi

関連するアドバイザリ

ADV-2022-0112:iLOやシステムユーティリティにおいて表示されるネットワークアダプターの名称が異なる現象について

更新情報

2023年9月1日(更新)
対象装置にDL560 Gen11を追加
2023年5月26日(更新)
対象装置にDL380 Gen11を追加
2022年7月29日(公開)
*
本ページで記載している内容を予告なく変更することがありますので、あらかじめご了承ください。

文書番号

ADV-2022-0083