给 48G 魔改 4090 解锁 PCIe P2P：动态 BAR1 映射的实现
手头攒了一批 48G 显存的魔改 4090。单卡推理一切正常，换成多卡训练，NCCL 却停在初始化阶段：社区里给消费卡解锁 PCIe P2P 的经典 mod，在这种卡上并不能工作。排查两天后，我改用动态 BAR1 逐分配映射，在不修改用户态的前提下保住了全部 48G 显存，P2P 带宽也能跑满 PCIe Gen4 x16。本文记录问题的成因、驱动修改和上机结果。 文末另有一节「AI 使用披露...
Mellanox Connect-X 5 网卡 SN2700 交换机 NFS Over RDMA (RoCEv2) 配置指北
目前 CX555 网卡和 SN2700 交换机的价格已经能让 100G 以太网走进寻常百姓家。配置 RoCEv2 和 NFS Over RDMA 其实并不复杂，但网上的资料比较零散，而且有些已经过时。本文记录一下我个人的配置经验，供大家参考。 环境 网卡：所有服务器使用 Mellanox ConnectX-5 EN 网卡（本例中使用 惠普版 cx555a） 交换机：Mellanox Spe...
HPE cx555a 100G 网卡刷入以太网固件指北
参考文献 https://forums.servethehome.com/index.php?threads/crossflash-oracle-cx556a-to-mellanox-oem.34293/post-463450https://forums.servethehome.com/index.php?threads/crossflash-oracle-cx556a-to-mellan...
在 ComfyUI 中优雅地函数式编程
我给 ComfyUI 写了一个插件 ComfyUI-Functional，能让你在 ComfyUI 的节点图中直观地定义函数，实现在工作流中复用流程，还能多次地、动态地调用函数，从而以函数式编程的形式直观地实现循环、递归等复杂控制结构，构建图灵完备的工作流。 非常建议将本节点包与 Basic Data Handling 搭配使用，这个节点包提供了大量 Python 基本数据类型的节点，能让你...
Docker 和 uv 炼丹实践指北
Abstract 前作 详细介绍了如何（在 WSL2 中）中安装 CUDA 和 Docker，并且配置了 GPU 支持的 Docker 镜像。本文将更详细地介绍一种在容器中使用 uv 管理 PyTorch 深度学习环境的实践。 Introduction 为什么要抛弃 conda，转而使用 Docker 和 uv？ Why Docker 不留死角的环境隔离：Docker 默认隔离所有的用户态...
更好的 VSCode 粘贴上传图床插件
https://marketplace.visualstudio.com/items?itemName=Duanyll.paste-and-uploadhttps://marketplace.visualstudio.com/items?itemName=Duanyll.paste-and-upload 简介 VSCode 已于今年初正式发布的 1.97 版本中引入了对 DocumentP...
Flow Matching 与 DDIM 小记
背景故事 2022 年 10 月左右，同期有三篇关于 Flow 模型用于图像生成的论文发表，并都被 ICLR 2023 录用： Flow Matching for Generative Modeling Learning to Generate and Transfer Data with Rectified Flow Building Normalizing Flows with Sto...
