管理使用具備 RDMA 功能之乙太網路埠的節點

系統支援使用支援遠端直接記憶體存取 (RDMA) 技術(如 RDMA over Converged Ethernet (RoCE) 或 iWARP)的乙太網路通訊協定的節點至節點連線。如果要使用這些通訊協定,則系統要求在每個節點上安裝具備 RDMA 功能的配接卡以及專門將具備 RDMA 功能的專用乙太網路埠配置用於節點至節點通訊。

RDMA 技術(如 RoCE 和 iWARP)允許具備 RDMA 功能的配接卡略過 CPU 及快取,直接在節點之間傳送資料,從而使傳送速度更快。RDMA 技術可提供比傳統 iSCSI 連線更快的連線及處理時間。

在節點之間使用的所有具備 RDMA 功能的乙太網路埠,都需要滿足下列必要條件:
  • 節點硬體已全部完成安裝。
  • 支援 RDMA 技術的 25-Gbps 乙太網路配接卡安裝在每一個節點上。如果您使用 RDMA 技術進行節點至節點通訊,請確保具備 RDMA 功能的配接卡使用相同的技術,例如 RoCE 或 iWARP。這些具備 RDMA 功能的配接卡,必須安裝在系統的所有節點之間的相同插槽中。這些安裝需求會確保這些埠 ID 在系統的所有節點之間相同。
  • 每個節點之間的乙太網路纜線都已正確連接。
  • 來源配接卡和目的地配接卡上的通訊協定技術是相同的。
  • 可以呼叫到本端 IP 位址及遠端 IP 位址。
  • 具備 RDMA 功能的乙太網路埠及其關聯子網路遮罩的每一個 IP 位址在每個節點上都是唯一的。
  • 路由器不得放在使用具備 RDMA 功能的乙太網路埠進行節點至節點通訊的節點之間。
  • 本端配接卡和遠端配接卡上的協議速度是相同的。
  • 本端埠虛擬 LAN ID 和遠端埠虛擬 LAN ID 是相同的。盡可能使用虛擬 LAN 來建立不相關系統的網路實體分隔。 所有用於節點至節點通訊的埠都必須獲指派一個 VLAN ID,並且用於主機連接的埠必須具有不同的 VLAN ID。如果您計劃使用 VLAN 來建立此分隔,則必須在網路中的所有乙太網路交換器上配置 VLAN 支援,然後才能在系統的節點上定義具備 RDMA 功能的乙太網路埠。在網路中的每一個交換器上,將 VLAN 設為幹線模式, 並針對將處於同一 VLAN 中的 RDMA 埠指定 VLAN ID。此外,如果需要更新具備 RDMA 功能之乙太網路埠的 VLAN 設定,這些設定無法獨立於其他配置設定來更新。在您更新具備 RDMA 功能的特定乙太網路埠的 VLAN 設定之前,您必須取消配置埠,對交換器配置進行任何必要的變更,然後在系統的每一個節點上重新配置具備 RDMA 功能的乙太網路埠。
  • 節點至節點通訊至少需要兩個具備 RDMA 功能的專用乙太網路埠,以確保最佳效能及可靠性。這些埠只能配置給節點間資料流量,不得用於主機連接、乙太網路連接的外部儲存體虛擬化或者 IP 抄寫資料流量。
  • 節點至節點通訊容許每個節點最多具有四個具備 RDMA 功能的乙太網路埠。

節點之間的「光纖通道」連線和 RDMA 型連線的基本節點作業(例如,新增節點或移除節點)都相同,但是在完成節點層次管理作業之前,您可能需要先完成具備 RDMA 功能的乙太網路埠上的管理動作。

在完成與節點上具備 RDMA 功能之乙太網路埠相關的管理作業之前,請使用下列最佳作法來管理這些埠:
  • 如果您已將系統配置為使用具備 RDMA 功能的乙太網路埠,您必須在新增、移除或更新具備 RDMA 功能之乙太網路埠的設定之前,確保有一個備用路徑可用。
  • 一次只能新增、移除或更新一個具備 RDMA 功能之乙太網路埠的設定。在這些變更之間等待 15 秒,再更新其他具備 RDMA 功能的乙太網路埠。
  • 如果您要使用虛擬 LAN 來建立網路的實體分隔,請確保在完成管理相關作業時遵循下列其他準則:
    • 無法獨立於具備 RDMA 功能的乙太網路埠上的其他設定(例如 IP 位址)來更新或新增 VLAN ID。
    • 在新增或更新具備 RDMA 功能之乙太網路埠的 VLAN ID 資訊之前,您必須在網路中的所有乙太網路交換器上配置 VLAN 支援。例如,在每一個交換器上,將 VLAN 設為「幹線」模式,並針對將處於同一 VLAN 中具備 RDMA 功能的乙太網路埠指定 VLAN ID。