數(shù)據(jù)中心端網(wǎng)協(xié)同的擁塞控制技術(shù)報告 2024

[編號ODCC-2024-0B002]開放數(shù)據(jù)中心標準推進委員會2024.08發(fā)布版權(quán)聲明轉(zhuǎn)載、摘編或利用其它方式使用ODCC成果中的文字或者觀點的，應(yīng)注明I編寫組 I 1 1 2 2 2 2 4（二）發(fā)送端設(shè)備的動態(tài)調(diào)控與網(wǎng)絡(luò)適應(yīng) 5（三）智能決策機制的實時分析與自適應(yīng)優(yōu)化 5 6 6 7 8 8 8 9（二）智算訓(xùn)練網(wǎng)絡(luò)中的數(shù)據(jù)傳輸優(yōu)化 （三）智算推理網(wǎng)絡(luò)中的實時響應(yīng)保障 12 14 141心行業(yè)的技術(shù)趨勢逐漸轉(zhuǎn)向通過統(tǒng)一融合的網(wǎng)絡(luò)架構(gòu)和協(xié)議來承載2本白皮書提出的C-AQM技術(shù)架構(gòu)圍繞數(shù)據(jù)中心網(wǎng)絡(luò)中常見的擁），3發(fā)能力是目標出隊列或出端口在特定時間段內(nèi)的最大轉(zhuǎn)發(fā)數(shù)據(jù)量上45本報告提出了多項關(guān)鍵技術(shù)以解決數(shù)據(jù)中心網(wǎng)絡(luò)中面臨的擁塞6數(shù)據(jù)中心端網(wǎng)協(xié)同的擁塞控制技術(shù)報告C2024-0n24）根據(jù)當(dāng)前隊列深度等因素進行調(diào)整，確保計算結(jié)果準確反映2）標記信息：如果空閑轉(zhuǎn)發(fā)能力小于調(diào)整請求的值，且在一定7零隊列管理依賴于空閑轉(zhuǎn)發(fā)能力的實時計算以及智能決策機制傳統(tǒng)的擁塞控制算法，如DCQCN和TCP原生Cubic擁塞控制8在RDMA場景中，業(yè)務(wù)對丟包極為敏感，小流對延遲敏感，大流則對吞吐量要求較高。DCQCN通過使用2位的ECN標記來指示網(wǎng)絡(luò)的擁塞程度，源端設(shè)備根據(jù)收到的CNP報文數(shù)量來決定升速或在TCP場景中，TCP協(xié)議通過慢啟動機制，逐步增加發(fā)送速率率的增長。然而，當(dāng)TCP檢測到丟包時，會迅速降低發(fā)送速率，這足將直接影響業(yè)務(wù)數(shù)據(jù)的傳輸性能。此外，由于TCP在丟包發(fā)生前C-AQM算法在上述RDMA和TCP場景中，成功解以下在存儲和智能計算場景舉例C-AQM擁塞算法的實際應(yīng)用。讀寫需求，這些請求既包括對網(wǎng)絡(luò)帶寬有高需求的大流量I/O，也包9一種是基于TCP協(xié)議的傳輸方式，即NVMeoverTCP；另一種是基于RDMA協(xié)議的傳輸方式，即NVMeo大流量還是小流量的I/O請求，都可以得到快速響應(yīng)。此外，智能決和處理的網(wǎng)絡(luò)。在AI場景中，通常采用RDMA協(xié)議進行數(shù)據(jù)傳輸，中保障網(wǎng)絡(luò)的無損性，通常會部署優(yōu)先級流控（PFC）。同時，AI至目的地。這種高效的網(wǎng)絡(luò)管理技術(shù)對于AI模型的快速訓(xùn)練和部署時數(shù)據(jù)處理和響應(yīng)，首個token的生成速率和后續(xù)token的刷新速率數(shù)據(jù)中心端網(wǎng)協(xié)同的擁塞控制技術(shù)報告C2024-0n2種方式，智算推理網(wǎng)絡(luò)能夠始終保持高效運行，確保AI應(yīng)用能夠?qū)嵢鐖D2所示，為開啟C-AQM后兩個數(shù)據(jù)流的擁塞窗口(cwnd)隨上的排隊時延對比結(jié)果，長尾時延可以反映出應(yīng)用的最長完成時間，長尾時延越低，應(yīng)用的處理效率越高?？梢钥吹剑cECN-LD