Cuda 热门项目
GitHub Cuda 热门开源项目 · 近 7 天数据
llm.c
基于纯C/CUDA的简易大语言模型训练
LeetCUDA
📚LeetCUDA:面向初学者的现代CUDA学习笔记(基于PyTorch)🐑,包含200+个CUDA内核、张量核心、HGEMM、FA-2 MMA。🎉
DeepGEMM
DeepGEMM:具备细粒度缩放功能的精简高效FP8通用矩阵乘内核
DeepEP
DeepEP:高效的专家并行通信库
nccl-tests
NCCL测试套件
cuopt
GPU加速决策优化
instant-ngp
即时神经图形原语:极速神经辐射场(NeRF)及其他技术
rtp-llm
RTP-LLM:阿里巴巴面向多样化应用的高性能大语言模型推理引擎。
cuvs
cuVS - 一个用于GPU上的向量搜索与聚类的库
GPUMD
图形处理器分子动力学
raft
RAFT 包含用于机器学习和信息检索的基础性、广泛使用的算法与原语。这些算法经过 CUDA 加速,构成了更轻松编写高性能应用程序的构建模块。
nvbench
CUDA内核基准测试库
SageAttention
量化注意力机制相比FlashAttention和xformers实现了2-5倍和3-11倍的速度提升,且在语言、图像和视频模型上保持端到端指标无损。
cugraph
cuGraph - RAPIDS 图分析库
HVM2
一个基于Rust的大规模并行、最优函数运行时
causal-conv1d
支持PyTorch接口的CUDA因果深度wise一维卷积实现
cuCollections
cub
[已归档] CUDA C++协同原语 参见https://github.com/NVIDIA/cccl
warp-ctc
快速并行连接时序分类算法
llm.c
基于纯C/CUDA的简易大语言模型训练
SageAttention
量化注意力机制相比FlashAttention和xformers实现了2-5倍和3-11倍的速度提升,且在语言、图像和视频模型上保持端到端指标无损。
mirage
Mirage持久化内核:将大语言模型编译为单一巨型内核
instant-ngp
即时神经图形原语:极速神经辐射场(NeRF)及其他技术
rtp-llm
RTP-LLM:阿里巴巴面向多样化应用的高性能大语言模型推理引擎。
DeepGEMM
DeepGEMM:具备细粒度缩放功能的精简高效FP8通用矩阵乘内核
cub
[已归档] CUDA C++协同原语 参见https://github.com/NVIDIA/cccl
nvbench
CUDA内核基准测试库
ThunderKittens
高性能核函数切片原语
nccl-tests
NCCL测试套件
cugraph-gnn
cuopt
GPU加速决策优化
raft
RAFT 包含用于机器学习和信息检索的基础性、广泛使用的算法与原语。这些算法经过 CUDA 加速,构成了更轻松编写高性能应用程序的构建模块。
cuCollections
warp-ctc
快速并行连接时序分类算法
causal-conv1d
支持PyTorch接口的CUDA因果深度wise一维卷积实现
SGEMM_CUDA
从零开始的快速CUDA矩阵乘法
cuvs
cuVS - 一个用于GPU上的向量搜索与聚类的库
cugraph
cuGraph - RAPIDS 图分析库
DeepEP
DeepEP:高效的专家并行通信库
ThunderKittens
高性能核函数切片原语
DeepEP
DeepEP:高效的专家并行通信库
llm.c
基于纯C/CUDA的简易大语言模型训练
DeepGEMM
DeepGEMM:具备细粒度缩放功能的精简高效FP8通用矩阵乘内核
SGEMM_CUDA
从零开始的快速CUDA矩阵乘法
nccl-tests
NCCL测试套件
rtp-llm
RTP-LLM:阿里巴巴面向多样化应用的高性能大语言模型推理引擎。
cuopt
GPU加速决策优化
nvbench
CUDA内核基准测试库
instant-ngp
即时神经图形原语:极速神经辐射场(NeRF)及其他技术
HVM2
一个基于Rust的大规模并行、最优函数运行时
SageAttention
量化注意力机制相比FlashAttention和xformers实现了2-5倍和3-11倍的速度提升,且在语言、图像和视频模型上保持端到端指标无损。
causal-conv1d
支持PyTorch接口的CUDA因果深度wise一维卷积实现
GPUMD
图形处理器分子动力学
cub
[已归档] CUDA C++协同原语 参见https://github.com/NVIDIA/cccl
cudf-spark-jni
适用于Apache Spark的RAPIDS加速器JNI
cuCollections
warp-ctc
快速并行连接时序分类算法
cuvs
cuVS - 一个用于GPU上的向量搜索与聚类的库
llm.c
基于纯C/CUDA的简易大语言模型训练
DeepEP
DeepEP:高效的专家并行通信库
DeepGEMM
DeepGEMM:具备细粒度缩放功能的精简高效FP8通用矩阵乘内核
ThunderKittens
高性能核函数切片原语
nccl-tests
NCCL测试套件
cugraph
cuGraph - RAPIDS 图分析库
instant-ngp
即时神经图形原语:极速神经辐射场(NeRF)及其他技术
how-to-optim-algorithm-in-cuda
如何在CUDA中优化某些算法
cuopt
GPU加速决策优化
GPUMD
图形处理器分子动力学
lietorch
cudf-spark-jni
适用于Apache Spark的RAPIDS加速器JNI
SageAttention
量化注意力机制相比FlashAttention和xformers实现了2-5倍和3-11倍的速度提升,且在语言、图像和视频模型上保持端到端指标无损。
cuCollections
warp-ctc
快速并行连接时序分类算法
causal-conv1d
支持PyTorch接口的CUDA因果深度wise一维卷积实现
cuvs
cuVS - 一个用于GPU上的向量搜索与聚类的库
llm.c
基于纯C/CUDA的简易大语言模型训练
DeepGEMM
DeepGEMM:具备细粒度缩放功能的精简高效FP8通用矩阵乘内核
causal-conv1d
支持PyTorch接口的CUDA因果深度wise一维卷积实现
ThunderKittens
高性能核函数切片原语
nccl-tests
NCCL测试套件
rtp-llm
RTP-LLM:阿里巴巴面向多样化应用的高性能大语言模型推理引擎。
SGEMM_CUDA
从零开始的快速CUDA矩阵乘法
SageAttention
量化注意力机制相比FlashAttention和xformers实现了2-5倍和3-11倍的速度提升,且在语言、图像和视频模型上保持端到端指标无损。
DeepEP
DeepEP:高效的专家并行通信库
cub
[已归档] CUDA C++协同原语 参见https://github.com/NVIDIA/cccl
raft
RAFT 包含用于机器学习和信息检索的基础性、广泛使用的算法与原语。这些算法经过 CUDA 加速,构成了更轻松编写高性能应用程序的构建模块。
mirage
Mirage持久化内核:将大语言模型编译为单一巨型内核
cugraph
cuGraph - RAPIDS 图分析库
cuvs
cuVS - 一个用于GPU上的向量搜索与聚类的库
cuCollections
warp-ctc
快速并行连接时序分类算法
nvbench
CUDA内核基准测试库
fused-ssim
闪电般快速的可微分结构相似性算法。
cuopt
GPU加速决策优化
instant-ngp
即时神经图形原语:极速神经辐射场(NeRF)及其他技术
llm.c
基于纯C/CUDA的简易大语言模型训练
instant-ngp
即时神经图形原语:极速神经辐射场(NeRF)及其他技术
SageAttention
量化注意力机制相比FlashAttention和xformers实现了2-5倍和3-11倍的速度提升,且在语言、图像和视频模型上保持端到端指标无损。
cuvs
cuVS - 一个用于GPU上的向量搜索与聚类的库
DeepGEMM
DeepGEMM:具备细粒度缩放功能的精简高效FP8通用矩阵乘内核
DeepEP
DeepEP:高效的专家并行通信库
mirage
Mirage持久化内核:将大语言模型编译为单一巨型内核
ThunderKittens
高性能核函数切片原语
cuopt
GPU加速决策优化
cub
[已归档] CUDA C++协同原语 参见https://github.com/NVIDIA/cccl
cugraph
cuGraph - RAPIDS 图分析库
causal-conv1d
支持PyTorch接口的CUDA因果深度wise一维卷积实现
fused-ssim
闪电般快速的可微分结构相似性算法。
sppark
零知识模板库
warp-ctc
快速并行连接时序分类算法
nccl-tests
NCCL测试套件
cuCollections
llm.c
基于纯C/CUDA的简易大语言模型训练
mirage
Mirage持久化内核:将大语言模型编译为单一巨型内核
instant-ngp
即时神经图形原语:极速神经辐射场(NeRF)及其他技术
ThunderKittens
高性能核函数切片原语
how-to-optim-algorithm-in-cuda
如何在CUDA中优化某些算法
raft
RAFT 包含用于机器学习和信息检索的基础性、广泛使用的算法与原语。这些算法经过 CUDA 加速,构成了更轻松编写高性能应用程序的构建模块。
SageAttention
量化注意力机制相比FlashAttention和xformers实现了2-5倍和3-11倍的速度提升,且在语言、图像和视频模型上保持端到端指标无损。
rtp-llm
RTP-LLM:阿里巴巴面向多样化应用的高性能大语言模型推理引擎。
causal-conv1d
支持PyTorch接口的CUDA因果深度wise一维卷积实现
nvbench
CUDA内核基准测试库
cuCollections
sppark
零知识模板库
cuopt
GPU加速决策优化
cub
[已归档] CUDA C++协同原语 参见https://github.com/NVIDIA/cccl
warp-ctc
快速并行连接时序分类算法
cuvs
cuVS - 一个用于GPU上的向量搜索与聚类的库