飞桨开源社区博客

2024 年已悄然落幕。这一年，飞桨开源社区在挑战与机遇中不断成长与突破。在这新年伊始，我们为大家呈上一份 2024 年度报告，以此致敬每一位开发者的努力与贡献。

什么是开源项目和开源社区？国内活跃度 Top 的开源社区，都有哪些有趣的人和事？开源社区之于开源项目有何重要意义？

近日，百度飞桨星河社区与华南师范大学计算机学院联合举办的技术沙龙在华南师范大学成功举行。本次活动汇聚百度飞桨技术专家与高校师生近 140 人，围绕 AI 前沿技术、开源生态与人才培养展开深度交流，共同探讨人工智能发展与应用。

FLUX: Fast Software-based Communication Overlap On GPUs Through Kernel Fusion

• https://arxiv.org/pdf/2406.06858
• https://github.com/bytedance/flux

论文链接：[ICLR 2025] WHEN ATTENTION SINK EMERGES IN LANGUAGE MODELS: AN EMPIRICAL VIEW

Github 仓库：https://github.com/sail-sg/Attention-Sink

• 论文链接：https://arxiv.org/pdf/2504.02263v3
• 关键词：MOE, EP, decode, 加速

论文链接：[ICLR 2025] NETMOE: ACCELERATING MOE TRAINING THROUGH DYNAMIC SAMPLE PLACEMENT