將具備 RDMA 功能的乙太網路埠用於節點至節點通訊的配置詳細資料
在配置系統以使用具備 RDMA 功能的乙太網路埠來進行節點至節點通訊之前,請考量下列建議。
重要: 在您配置系統以將具備 RDMA 功能的乙太網路埠用於節點至節點通訊以及併入 IBM® HyperSwap® 或延伸系統配置之前,請聯絡產品支援代表。
如果您配置具備 RDMA 功能的乙太網路埠進行節點至節點通訊,請使用下列建議:- 針對用於節點至節點通訊的埠,以及用於主機連接的埠,指派不同的子網路。若為使用具備 RDMA 功能之乙太網路埠的節點至節點通訊,則系統中所有節點的實體埠 ID 必須相符,且必須位於相同的子網路中。
- 使用雙重備援交換器配置以避免乙太網路連線功能發生單點故障。
- 在系統的節點上配置具備 RDMA 功能的乙太網路埠之前,請驗證所有交換器上的 RDMA 支援。
- 確保來回轉換時間 (RTT) 最多 3 毫秒且不捨棄任何封包。
- 若要建立無損乙太網路光纖,請一律將乙太網路流程控制機制 (IEEE 802.3x) 用於標準拓蹼。
- 盡可能使用虛擬 LAN 來建立不相關系統的網路實體分隔。 所有用於節點至節點通訊的埠都必須獲指派一個 VLAN ID,並且用於主機連接的埠必須具有不同的 VLAN ID。如果您計劃使用 VLAN 來建立此分隔,則必須在網路中的所有乙太網路交換器上配置 VLAN 支援,然後才能在系統的節點上定義具備 RDMA 功能的乙太網路埠。在網路中的每一個交換器上,將 VLAN 設為幹線模式, 並針對將處於同一 VLAN 中的 RDMA 埠指定 VLAN ID。此外,如果需要更新具備 RDMA 功能之乙太網路埠的 VLAN 設定,這些設定無法獨立於其他配置設定來更新。在您更新具備 RDMA 功能的特定乙太網路埠的 VLAN 設定之前,您必須取消配置埠,對交換器配置進行任何必要的變更,然後在系統的每一個節點上重新配置具備 RDMA 功能的乙太網路埠。
- 不屬於所配置之現行系統的所有系統,必須實際從乙太網路光纖進行分隔。您可以配置不同的 VLAN,以在系統之間進行分隔。
- 驗證網路上的 IP 位址配置,以確保沒有指派重複的 IP 位址。
- 如果在網路配置中使用防火牆,請確保為 TCP 埠 21455 和 UDP 埠 4791、21451 及 21452 開啟資料流量。使用具備 RDMA 功能之乙太網路連線的節點至節點通訊,會針對資料流量使用 TCP 埠 21455,針對系統上的服務探索使用 UDP 埠 21451 及 21452。如果您是使用 RoCE 通訊協定,請確保為 UDP 埠開啟資料流量。此外,具備 RDMA 功能的乙太網路埠使用「網際網路群組管理通訊協定 (IGMP)」來進行群組多重播送通訊,以進行服務探索,因此,請確保在防火牆上已啟用 IGMP 資料流量以進行備用站台配置。
- 為每一個節點上具備 RDMA 功能的每個個別乙太網路埠指派一個具有不同子網路的 IP 位址,以便系統可以根據所連接的目的地 IP 位址來選取唯一的路徑。
- 具備 RDMA 功能的乙太網路埠可用於節點至節點通訊以及主機連接;不過,請勿為主機和節點至節點通訊共用具備 RDMA 功能的乙太網路埠。不支援使用具備 RDMA 功能的埠來連線至外部儲存體。也支援使用各種其他通訊協定來進行主機連接和虛擬化外部儲存體。
- 對於 HyperSwap 或延伸系統配置,請確保交換器間鏈結的數量足夠用於節點之間具備 RDMA 功能的連線。在故障情境(例如單一站台故障)下,使用可在站台之間流動的尖峰資料流量、Metro Mirror 連線或站台之間的磁區鏡映,來判斷系統的交換器需求。
如果系統使用具備 RDMA 功能的乙太網路埠進行節點至節點通訊,則系統具有下列限制:
- 在具備 RDMA 功能的乙太網路埠上,只支援 IPv4 位址。
- 對於使用具備 RDMA 功能的乙太網路埠進行的節點至節點通訊,僅支援最大傳輸單位 (MTU) 的預設值 1500。
- 具備 RDMA 功能的乙太網路埠上不支援埠遮罩。由於這項限制,請不要使用四個以上的埠進行節點至節點通訊。
- 在使用具備 RDMA 功能的乙太網路埠進行節點至節點通訊的系統上,不支援緊急備用節點。
- 如果某個網路配置的交換器光纖中包含兩個以上中繼站,則此類網路配置不支援使用具備 RDMA 功能的乙太網路埠進行的節點至節點通訊。
- 部分環境可能不含延展層 2 子網路。在這樣的事務範例中,層 3 網路(例如採用標準拓蹼或長途 RDMA 節點對節點 HyperSwap 配置)適用。為了支援層 3 乙太網路,可以採用單點播送探索方法進行 RDMA 點對點通訊。此方法依賴於單點播送型光纖探索,而不是多重播送探索。若要配置單點播送探索,請參閱 addnodediscoverysubnet、rmnodediscoverysubnet 或 lsnodediscoverysubnet 指令。
- 只有某些系統型號支援使用具備 RDMA 功能的乙太網路埠進行節點至節點通訊。如需支援具備 RDMA 功能之乙太網路埠的系統硬體型號清單,請參閱下列網站:
http://www-03.ibm.com/systems/support/storage/ssic/interoperability.wss
如需在系統上使用具備 RDMA 功能之乙太網路埠的其他相關資訊,請前往下列網站,並搜尋 Configuration Limits and Restrictions: