IEEE HotICN 中文社区 |未来网络|区块链技术|人工智能|NDN中文社区|hoticnIEEE HotICN中文社区

A Switch-Centric In-Network Architecture for Accelerating LLM Inference in Shared-Memory Network

1. 摘要（Abstract）本文研究的是大模型推理中的通信瓶颈问题，具体聚焦在 Tensor Parallelism（TP）推理场景下的 All-Reduce 加速。随着 LLM 参数规模不断扩大，单个 GPU 很难独立完成低延迟推理，多加速器并行已经成为常态。但在 ...

cz 8小时前

. 研究背景：BGP 在超大规模网络迁移中的局限性在 Meta（原 Facebook）的超大规模数据中心（DCN）中，网络迁移（如拓扑扩展、设备更迭、链路重组）已成为日常。传统的 BGP 协议虽然在可扩展性和容错性上表现卓越，但在处理动态迁移任务时却显得捉襟见肘。 BG...

hhx 1周前 (04-28)

Source: 应用科学学报 2020 年第 38 卷第 1 期期刊：应用科学学报 Vol. 38 No. 1, January 2020 单位：北京大学信息工程学院深圳市内容中心网络与区块链重点实验室；北京大学互联网研究院作者：雷凯、黄硕康、方俊杰、黄...

杨, 宗霖 2周前 (04-26)

Source: 信息与控制 2024 年第 53 卷第 1 期期刊：信息与控制 Vol. 53 No. 1, 2024 DOI：10.13976/j.cnki.xk.2024.3222 单位：天津大学智能与计算学部；雄安国创中心科技有限公司作者：任晓旭、仇...

杨, 宗霖 2周前 (04-26)

1. 摘要（Abstract）本文聚焦于 LLM-based Search Agent 的训练问题。现有方法在强化学习训练中主要面临一个核心难点credit assignment（贡献归因）。一方面，基于最终答案的 outcome supervision 虽然训练稳定，...

cz 2周前 (04-22)

① 研究背景在当前互联网域间路由系统中，BGP作为核心协议，其安全性长期受到路由劫持（hijack）、路由泄露（leak）等异常行为的威胁。尽管近年来RPKI、ROV等机制逐步部署，为路由验证提供了“可信锚点”，但实际网络环境却远比理想模型复杂。问题的关键在于：BGP是...

前康 3周前 (04-20)

1. 摘要（Abstract） TGraph是首个基于张量的通用图处理框架，旨在解决现有图系统难以跨硬件后端迁移的问题。传统图处理系统（如Ligra、Gunrock、cuGraph等）多针对特定硬件（如NVIDIA GPU或FPGA）进行深度优化，虽然在特定平台上性能突出...

hhx 3周前 (04-20)

1. 摘要（Abstract） VEGA提出了一种全新的只读型（immutable）学习索引，旨在同时实现最先进的经验查询性能和严格的理论查询复杂度保证。现有最快的不变学习索引（如RMI）虽在实际查询吞吐量上表现突出，但缺乏非平凡的最坏情况查询界限；相反，提供紧致界限的索...

hhx 4周前 (04-13)

① 研究背景：从“策略学习”走向“影响建模” 在多智能体强化学习（MARL）中，一个几乎所有工作都默认但很少被真正刻画的问题是：智能体之间到底是如何相互影响的？论文开篇就明确指出：“理解智能体之间的相互影响对于有效学习策略至关重要”在MARL系统中，所有智能体都处在一个共...

前康 1个月前 (04-07)

Proceedings of the ACM on Management of Data, Volume 3, Issue 3 (June 2025) hps://doi.org/10.1145/3725360 EISSN: 2836-6573 1. 摘要（...

hhx 1个月前 (04-07)