System and method of improving the utilization of a data communications link

Abstract

A method of improving the utilization of a data communications link is provided. The method includes sending a request, to a round trip time, RTT, meter (304), requesting a measurement of the base round trip time of a data communications flow. The method includes setting an increase parameter of a congestion control algorithm based on the base round trip time measurement received from the round trip time meter in response to the request.

Description

SYSTEM AND METHOD OF IMPROVING THE UTILIZATION OF A DATA COMMUNICATIONS LINKTECHNICAL FIELD

[0001] The disclosure relates generally to data transmission over a communication link, and more particularly, the disclosure relates to a method of improving the utilization of a data communications link. Moreover, the disclosure relates to a system of improving the utilization of a data communications link.BACKGROUND

[0002] Data centres are a crucial part of modern businesses, enabling data processing and storage across various locations. To ensure continuous operation and minimize disruptions, companies often deploy multiple data centres in distant sites. The data centres need to be interconnected via long-distance communication links to maintain data flow and operational efficiency. However, as data traffic grows, networks, particularly the data centres, face the challenge of congestion when multiple traffic flows overload network links or nodes. This congestion leads to inefficiencies such as packet loss and reduced network performance. To address these inefficiencies, Congestion Control algorithms are employed to manage the traffic that each sender introduces into the network.

[0003] The congestion control algorithms rely on feedback from the network or a flow's receiver to adjust traffic rates. When no congestion is detected, the congestion control algorithms increase the traffic rate, and when congestion is detected, the congestion control algorithms reduce the traffic rate. For example, Transport Control Protocol, TCP, congestion control mechanism leverages Early Congestion Notification (ECN) signals, which are set by network switches, along with feedback from the flow’s receiver back to the sender. Additionally, it employs an Additive Increase Multiplicative Decrease (AIMD) algorithm to effectively regulate traffic flow. ECN indications reaches the flow’s sender after a round-trip time (RTT) , where a flow with a large round-trip time responds more slowly to the network or the flow’s receiver feedback than a flow with a small RTT. A flow passing through long-distance links has a large round-trip time causing the flow to react more slowly compared to a flow passing only through short-distance links.

[0004] Congestion Control algorithms such as Data Center TCP, DCTCP, Low Delay Control Protocol, LDCP, and Swift are commonly employed in data centers. DCTCP is an ECN-based protocol that adjusts (e.g. increase or decrease) the transmission rate using TCP's slow-start and congestion avoidance states. Similarly, LDCP is an ECN-based protocol that uses a rate increase parameter (Alpha) and a rate decrease parameter (Beta) . Swift, on the other hand, is a time-based protocol that adjusts its rate based on a rate increase parameter (αi) and a rate decrease parameter (Beta) , while also measuring RTT and queuing delay.

[0005] In a network where flows with both small RTTs, and large RTTs share links, flows with large RTTs typically have lower rates compared to the flows with small RTTs, which may lead to underutilization of long-distance links. For example, DCTCP exhibits RTT-fairness that is approximately inverse squared but can be improved to inverse linear. A larger rate increase parameter can cause the flow rate to increase aggressively, allowing for quicker saturation of bottleneck link, which is a point in the network where bandwidth is most constrained. However, this aggressive rate increase can lead to higher packet loss, reducing overall network utilization.

[0006] To address these challenges, researchers have developed Congestion Control algorithms including LDCP and its variant LDCP+. Both LDCP and LDCP+ maintain a congestion window, known as cwnd, and which is updated using an AIMD mechanism. Both LDCP and LDCP+ are ECN-based algorithms. LDCP operates with two parameters: α and β, where α determines the rate of increase and β determines the rate of decrease. LDCP sets parameters α > 0, and β ≤ 1, with α typically defaulting to 1. Upon receiving an acknowledgment packet, ACK, with ECN-Echo=0, LDCP increases cwnd by α / cwnd, and upon receiving an ACK with ECN-Echo=1, LDCP decreases cwnd by β. If no congestion is detected during a round-trip time, cwnd increases by α, and if congestion is detected, cwnd decreases by β·cwnd.

[0007] LDCP+ also operates similarly with parameters α and β. LDCP+ sets parameters α > 0, and β ≤ 1, with α typically defaulting to 1. When an ACK with any ECN-Echo value is received, LDCP+ increases cwnd by α / cwnd. When an ACK with ECN-Echo=1 is received, LDCP+ decreases cwnd by β. If a newly lost packet is identified, LDCP+ decreases cwnd by β. If no congestion or  packet loss occur during a round-trip time, cwnd increases by α, and if congestion or packet loss is encountered during the RTT, cwnd decreases by β·cwnd.

[0008] FIG. 1A illustrates a graphical representation of a typical topology 100 with a long-distance link in accordance with a prior art implementation. The topology 100 includes one or more hosts (e.g. H1, H2, H3, and H4) 102A-D and one or more switches (e.g. S1, and S2) 104A-B. Each link has a rate of 100 Gbps. One of the links has a larger delay than the other links, which is the long-distance link. Two flows (i.e. a first flow from H1 to H2, and a second flow from H3 to H4) are transmitted to the topology 100 using LDCP+ with a default α. Both the first flow and the second flow pass through a link between the one or more switches (e.g. S1 and S2) 104A-B, which is a bottleneck link, where the first flow and the second flow are expected to fairly utilize the bottleneck link i.e. 50%each.

[0009] FIGS. 1B and 1C illustrate graphical representations of flow rate progression over time of the first flow and the second flow in the typical topology 100 of FIG. 1A in accordance with a prior art implementation. The graphical representation 106 represents flow rate progression over time of the first flow, and the graphical representation 108 represents flow rate progression over time of the second flow. The graphical representations 106, 108 includes a Y-axis representing data transmission rate of the flow in Gigabits Per Second, Gbps, and an X-axis representing the time in seconds. The first flow with an RTT of 48 μs converges to a rate of 25 Gbps using α =1, as shown in the graphical representation 106. The second flow with an RTT of 16 μs converges to a rate of 75 Gbps using α =1, as shown in the graphical representation 108. Flow rate ratio is inversely proportional to the flow RTT ratio. The long-distance link utilization is only 25%, which is less than the expected 50%utilization.

[0010] FIG. 2 illustrates a typical multi-data centre topology with one or more data centres 202A-C connected with one or more long-distance switches 204A-C in accordance with a prior art implementation. Distance between the one or more data centres is 100kms. The one or more data centres 202A-C may include a hierarchical network structure including leaf switches, Top-of-Rack, ToR, switches, and servers. Inter-data centre flows (i.e., flows whose sender and receiver do not reside in the same data centre) pass through a long-distance link between data centres 202A-C, and intra-data centre flows (i.e., flows whose sender and receiver reside in the same data centre) do not. The inter-data centre flows have a larger RTT than the intra-data centre flows. In a scenario with 80%intra-data centre flows and 20%inter-data centre flows with α =1, the utilization of the long-distance link is approximately 20%. The long-distance link is the most expensive link and also a bottleneck for the inter-data centre flows, so such a low utilization is undesirable.

[0011] Therefore, there arises a need to address the aforementioned technical problems / drawbacks in the utilization of long-distance links in the network.SUMMARY

[0012] It is an object of the disclosure to provide a method of improving the utilization of a data communications link. Moreover, the disclosure relates to a system of improving the utilization of a data communications link.

[0013] This object is achieved by the features of the independent claims. Further, implementation forms are apparent from the dependent claims, the description, and the figures.

[0014] According to a first aspect, there is provided a method of improving the utilization of a data communications link. The method includes sending a request to an RTT meter, requesting a measurement of the base RTT of a data communications flow (that is, the RTT based on link delays alone, without considering the queueing delay in hosts and in switches) . The method includes setting an increase parameter of a congestion control algorithm based on the base RTT measurement received from the RTT meter in response to the request.

[0015] The method improves the utilization of the data communication links (e.g. long-distance links) in a network by utilizing different congestion control algorithms that set the increase parameter for flows with different base RTTs. The method efficiently optimizes the usage of the long-distance links, benefiting both lossy and lossless networks, provided an ECN based congestion control algorithm is utilized. The method is particularly effective in improving performance in lossy networks, but is also useful in lossless networks. Additionally, the method employs a selective-repeat protocol to reduce bandwidth wastage caused by packet loss due to aggressive data communications flow parameters, which results in improved overall network efficiency and capacity of data transmission within the network. The method utilizes the long-distance link in a multi-data centre network, optimizing both inter-data centre and intra-data centre flows.

[0016] Preferably, the step of sending the request for the base RTT measurement is carried out when the data communications flow starts. Optionally, the setting step sets the increase parameter while the congestion control algorithm operates. The setting step may set the increase parameter based on flow endpoint addresses. Preferably, a multi-data centre topology is used. Optionally, the setting step selects an increase parameter in proportion to the measured base RTT such that a larger increase parameter is used for a longer base RTT.

[0017] Preferably, the congestion control algorithm has a dynamically configurable increase parameter. Optionally, a selective-repeat protocol is used when a base RTT measurement larger than a predetermined threshold is being set by the setting step.

[0018] Preferably, respective flow endpoint addresses are assigned to corresponding data centres in the multi-data centre topology. Optionally, the source and destination data centres are identified by checking to which address range the flow endpoint addresses belong to. Optionally, a distance between each pair of data centres is used to determine the increase parameter for each data flow.

[0019] According to a second aspect, there is provided a system including means adapted for carrying out all the steps of the method described above.

[0020] The system improves the utilization of the data communication links (e.g. long-distance links) in a network by utilizing different congestion control algorithms that set the increase parameter for flows with different base RTTs. The system efficiently optimizes the usage of the long-distance links, benefiting both lossy and lossless networks, provided an ECN based congestion control algorithm is utilized. The method is particularly effective in improving performance in lossy networks but is also useful in lossless networks. Additionally, the system employs a selective-repeat protocol to reduce bandwidth wastage caused by packet loss due to aggressive data communications flow parameters, which results in improved overall network efficiency and capacity of data transmission within the network. The system utilizes the long-distance link in a multi-data centre network, optimizing both inter-data centre and intra-data centre flows.

[0021] According to a third aspect, there is provided a computer program including instructions for carrying out all the steps of the above described method, when the computer program is executed on a computer system.

[0022] Therefore, in contradistinction to the existing solutions, the system and the method improve the utilization of the data communication links (e.g. long-distance links) in a network by utilizing different congestion control algorithms that set the increase parameter for flows with different base RTTs.

[0023] These and other aspects of the disclosure will be apparent from the implementation (s) described below.BRIEF DESCRIPTION OF THE DRAWINGS

[0024] Implementations of the disclosure will now be described, by way of example only, with reference to the accompanying drawings, in which:

[0025] FIG. 1A illustrates a graphical representation of a typical topology with a long-distance link in accordance with a prior art implementation;

[0026] FIGS. 1B and 1C illustrate graphical representations of flow rate progression over time of a first flow and a second flow in a typical topology in accordance with a prior art implementation;

[0027] FIG. 2 illustrates a typical multi-data centre topology with one or more data centres connected with one or more long-distance switches in accordance with a prior art implementation;

[0028] FIG. 3 illustrates a system for improving the utilization of a data communications link in accordance with an implementation of the disclosure;

[0029] FIGS. 4A and 4B illustrate graphical representations of flow rate progression over time of a first flow and a second flow in a topology in accordance with an implementation of the disclosure;

[0030] FIGS. 5A-5C illustrate graphical representations of utilization of long-distance links, inter-data centre flow drop rate, and intra-data centre flow throughput decrease due to larger increase parameter in a multi-data centre topology in accordance with an implementation of the disclosure;

[0031] FIG. 6 is a flow diagram that illustrates a method of improving the utilization of a data communications link in accordance with an implementation of the disclosure; and

[0032] FIG. 7 is an illustration of a computer system in which the various architectures and functionalities of the various previous implementations may be implemented.

[0033] DETAILED DESCRIPTION OF THE DRAWINGS

[0034] Implementations of the disclosure to provide a method of improving the utilization of a data communications link. Moreover, the disclosure relates to a system of improving the utilization of a data communications link.

[0035] To make solutions of the disclosure more comprehensible for a person skilled in the art, the following implementations of the disclosure are described with reference to the accompanying drawings.

[0036] Terms such as "a first" , "a second" , "a third" , and "a fourth" (if any) in the summary, claims, and foregoing accompanying drawings of the disclosure are used to distinguish between similar objects and are not necessarily used to describe a specific sequence or order. It should be understood that the terms so used are interchangeable under appropriate circumstances, so that the implementations of the disclosure described herein are, for example, capable of being implemented in sequences other than the sequences illustrated or described herein. Furthermore, the terms "include" and "have" and any variations thereof, are intended to cover a non-exclusive inclusion. For example, a process, a method, a system, a product, or a device that includes a series of steps or units, is not necessarily limited to expressly listed steps or units but may include other steps or units that are not expressly listed or that are inherent to such process, method, product, or device.

[0037] FIG. 3 illustrates a system 300 for improving the utilization of a data communications link in accordance with an implementation of the disclosure. The system 300 includes a controller 302, and an RTT meter 304. The controller 302 is configured to send a request to the RTT meter 304, requesting a measurement of the base RTT of a data communications flow. Preferably, the controller 302 sends the request to the RTT meter 304 when the data communications flow starts. The RTT meter 304 is configured to measure the base RTT of the data communications flow. Optionally, the controller 302 requests the RTT meter 304 to measure the base RTT of the data communications flow periodically. The controller 302 is configured to set an increase parameter of a congestion control algorithm based on the base RTT measurement received from the RTT meter 304 in response to the request. Optionally, the controller 302 sets the increase parameter based on flow endpoint addresses. Optionally, the controller 302 sets the increase parameter while the congestion control algorithm operates. The congestion control algorithm may have a dynamically configurable increase parameter. The system 300 may employ different congestion control algorithms that set the increase parameter for data communications flows with different base RTTs. Optionally, the system 300 selects an increase parameter in proportion to the measured base RTT such that a larger increase parameter is used for a longer base RTT.

[0038] The system 300 improves the utilization of the data communication links (e.g. long-distance links) in a network by utilizing different congestion control algorithms that set the increase parameter for data communications flows with different base RTTs. The system 300 efficiently optimizes the usage of the long-distance links, benefiting both lossy and lossless networks. The system 300 utilizes ECN based congestion control algorithm.

[0039] In a multi-data centre topology with one or more data centres, the system 300 assigns one or more flow endpoint addresses in a unique address range to the one or more data centres. The system 300 identifies a source and a destination data centres of the data communications flow by checking an address range to which the flow endpoint addresses belong to. Preferably, the system 300 uses a distance between each pair of the data centres in the multi-data centre topology to determine the increase parameter for each data communications flow. The congestion control algorithm sets an increase parameter dynamically. The system 300 utilizes the long-distance link in the multi-data centre topology, optimizing both inter-data centre and intra-data centre flows.

[0040] The system 300 utilizes a selective-repeat protocol to minimize bandwidth wastage due to packet loss caused by aggressiveness of the flows with a larger increase parameter. Preferably, when the base RTT measurement is larger than a predetermined threshold set by the controller 302, the system 300 utilizes the selective-repeat protocol. The system 300 employs a selective-repeat protocol to reduce bandwidth wastage caused by packet loss due to aggressive data communications flow parameters, which results in improved overall network efficiency and capacity of data transmission within the network.

[0041] FIGS. 4A and 4B illustrate graphical representations (402, 404) of flow rate progression over time of a first flow and a second flow in a topology in accordance with an implementation of the disclosure. The topology includes one or more hosts (e.g. H1, H2, H3 and H4) , and one or more switches (e.g. S1 and S2) . Two flows (i.e. a first flow from H1 to H2, and a second flow from H3 to H4) are transmitted to the topology using LDCP+ with α = 3. The graphical representations (402, 404) each includes a Y-axis representing data transmission rate of the flow in Gigabits Per Second, Gbps, and an X-axis representing the time in seconds. The first flow converges to a rate of 50 Gbps with α = 3, as shown in the graphical representation 402, and the second flow converges  to a rate of 50 Gbps with α = 1, as shown in the graphical representation 404. The flow ratio is proportional to the flow base RTT ratio.

[0042] FIGS. 5A-5C illustrate graphical representations of utilization of long-distance links, inter-data centre flow drop rate, and intra-data centre flow throughput decrease due to larger increase parameter in a multi-data centre topology in accordance with an implementation of the disclosure. The multi-data centre topology includes a scenario with 80%intra-data centre flows, and 20%inter-data centre flows. FIG. 5A depicts a graphical representation of utilization of the long-distance links with α =1 for the intra-data centre flows, and different α values for inter-data centre flows in Low Delay Control Protocol, LDCP+. The graphical representation includes an X-axis representing α values and a Y-axis representing percentages of utilization of the long-distance links. When α = 10 is used for the inter-data centre flows, the utilization of the long-distance links reaches approximately 70%. When α ≥ 20 is used for the inter-data centre flows, the utilization of the long-distance links reaches approximately 90%.

[0043] FIG. 5B depicts a graphical representation of inter-data centre flow drop rate with different α values. The graphical representation includes an X-axis representing α values, and a Y-axis representing the inter-data centre flow drop rate in percentages. As the value of α increases to 10, 20, 30, 40, and 50, the inter-data centre flow drop rate also increases (e.g. from approximately 7.5%inter-data centre flow drop rate at α = 10 to approximately 16%inter-data centre flow drop rate at α = 50) .

[0044] FIG. 5C depicts a graphical representation of intra-data centre flow throughput decrease with different α values. The graphical representation includes an X-axis representing α values, and a Y-axis representing the intra-data centre throughput decrease in percentages. As the value of α increases to 10, 20, 30, 40, and 50, the intra-data centre throughput decreases (e.g. from approximately 0.75%intra-data centre throughput decreases at α = 50 to approximately 2.5%intra-data centre throughput decreases at α = 50) .

[0045] FIG. 6 is a flow diagram that illustrates a method of improving the utilization of a data communications link in accordance with an implementation of the disclosure. At a step 602, a request requesting a measurement of a base RTT of a data communications flow is sent to the RTT meter. At a step 604, an increase parameter of a congestion control algorithm is set based on the base RTT measurement received from the RTT meter in response to the request.

[0046] The method improves the utilization of the data communication links (e.g. long-distance links) in a network by utilizing different congestion control algorithms that set the increase parameter for flows with different base RTTs. The method efficiently optimizes the usage of the long-distance links, benefiting both lossy and lossless networks, provided an ECN based congestion control algorithm is utilized. The method is particularly effective in improving performance in lossy networks, but is also useful in lossless networks. Additionally, the method employs a selective-repeat protocol to reduce bandwidth wastage caused by packet loss due to aggressive data communications flow parameters, which results in improved overall network efficiency and capacity of data transmission within the network. The method utilizes the long-distance link in a multi-data centre network, optimizing both inter-data centre and intra-data centre flows.

[0047] Preferably, the step of sending the request for the base RTT measurement is carried out when the data communications flow starts. Optionally, the setting step sets the increase parameter while the congestion control algorithm operates. The setting step may set the increase parameter based on flow endpoint addresses. Preferably, a multi-data centre topology is used. Optionally, the setting step selects an increase parameter in proportion to the measured base RTT such that a larger increase parameter is used for a longer base RTT.

[0048] Preferably, the congestion control algorithm has a dynamically configurable increase parameter. Optionally, a selective-repeat protocol is used when a base RTT measurement larger than a predetermined threshold is being set by the setting step.

[0049] Preferably, respective flow endpoint addresses are assigned to corresponding data centres in the multi-data centre topology. Optionally, the source and destination data centres are identified by checking to which address range the flow endpoint addresses belong to. Optionally, a distance between each pair of data centres is used to determine the increase parameter for each data flow.

[0050] FIG. 7 is an illustration of a computer system in which the various architectures and functionalities of the various previous implementations may be implemented. As shown, the computer system 700 includes at least one processor 704 that is connected to a bus 702, wherein the computer system 700 may be implemented using any suitable protocol, such as PCI (Peripheral Component Interconnect) , PCI-Express, AGP (Accelerated Graphics Port) , Hyper Transport, or any other bus or point-to-point communication protocol (s) . The computer system 700 also includes a memory 706.

[0051] Control logic (software) and data are stored in the memory 706 which may take a form of random-access memory (RAM) . In the disclosure, a single semiconductor platform may refer to a sole unitary semiconductor-based integrated circuit or chip. It should be noted that the term single semiconductor platform may also refer to multi-chip modules with increased connectivity which simulate on-chip modules with increased connectivity which simulate on-chip operation and make substantial improvements over utilizing a conventional central processing unit (CPU) and bus implementation. Of course, the various modules may also be situated separately or in various combinations of semiconductor platforms per the desires of the user.

[0052] The computer system 700 may also include a secondary storage 710. The secondary storage 710 includes, for example, a hard disk drive and a removable storage drive, representing a floppy disk drive, a magnetic tape drive, a compact disk drive, digital versatile disk (DVD) drive, recording device, universal serial bus (USB) flash memory. The removable storage drive at least one of reads from and writes to a removable storage unit in a well-known manner.

[0053] Computer programs, or computer control logic algorithms, may be stored in at least one of the memory 706 and the secondary storage 710. Such computer programs, when executed, enable the computer system 700 to perform various functions as described in the foregoing. The memory 706, the secondary storage 710, and any other storage are possible examples of computer-readable media.

[0054] In an implementation, the architectures and functionalities depicted in the various previous figures may be implemented in the context of the processor 704, a graphics processor coupled to a communication interface 712, an integrated circuit (not shown) that is capable of at least a portion of the capabilities of both the processor 704 and a graphics processor, a chipset (namely, a group of integrated circuits designed to work and sold as a unit for performing related functions, and so forth) .

[0055] Furthermore, the architectures and functionalities depicted in the various previous-described figures may be implemented in a context of a general computer system, a circuit board system, a game console system dedicated for entertainment purposes, an application-specific system. For example, the computer system 700 may take the form of a desktop computer, a laptop computer, a server, a workstation, a game console, an embedded system.

[0056] Furthermore, the computer system 700 may take the form of various other devices including, but not limited to a personal digital assistant (PDA) device, a mobile phone device, a smart phone, a television, and so forth. Additionally, although not shown, the computer system 700 may be coupled to a network (for example, a telecommunications network, a local area network (LAN) , a wireless network, a wide area network (WAN) such as the Internet, a peer-to-peer network, a cable network, or the like) for communication purposes through an I / O interface 708.

[0057] It should be understood that the arrangement of components illustrated in the figures described are exemplary and that other arrangement may be possible. It should also be understood that the various system components (and means) defined by the claims, described below, and illustrated in the various block diagrams represent components in some systems configured according to the subject matter disclosed herein. For example, one or more of these system components (and means) may be realized, in whole or in part, by at least some of the components illustrated in the arrangements illustrated in the described figures.

[0058] In addition, while at least one of these components are implemented at least partially as an electronic hardware component, and therefore constitutes a machine, the other components may be implemented in software that when included in an execution environment constitutes a machine, hardware, or a combination of software and hardware.

[0059] Although the disclosure and its advantages have been described in detail, it should be understood that various changes, substitutions, and alterations can be made herein without departing from the spirit and scope of the disclosure as defined by the appended claims.

Claims

1.A method of improving the utilization of a data communications link, comprising steps of:sending a request to a round trip time, RTT, meter (304) , requesting a measurement of the base round trip time of a data communications flow; andsetting an increase parameter of a congestion control algorithm based on the base round trip time measurement received from the round trip time meter (304) in response to the request.2.The method of claim 1, wherein the sending step is carried out when the data communications flow starts.3.The method of claim 1, wherein the setting step sets the increase parameter while the congestion control algorithm operates.4.The method of claim 1, wherein the setting step sets the increase parameter based on flow endpoint addresses.5.The method of claim 1, wherein the congestion control algorithm has a dynamically configurable increase parameter.6.The method of claim 1, wherein a selective-repeat protocol is used when a base round trip time measurement larger than a predetermined threshold is being set by the setting step.7.The method of claim 1, wherein the setting step selects an increase parameter in proportion to the measured base round trip time such that a larger increase parameter is used for a longer base round trip time.8.The method of claim 4, wherein a multi-data centre topology is used.9.The method of claim 8, wherein respective flow endpoint addresses are assigned to corresponding data centres in the multi-data centre topology.10.The method of claim 9, wherein the source and destination data centres are identified by checking to which address range the flow endpoint addresses belong to.11.The method of claim 10, wherein a distance between each pair of data centres is used to determine the increase parameter for each data flow.12.A system comprising means adapted for carrying out all the steps of the method according to any preceding method claim.13.A computer program comprising instructions for carrying out all the steps of the method according to any preceding method claim, when said computer program is executed on a computer system.

Images