Cuda 热门项目
GitHub Cuda 热门开源项目 · 近 7 天数据
llm.c
基于纯C/CUDA的简易大语言模型训练
rtp-llm
RTP-LLM:阿里巴巴面向多样化应用的高性能大语言模型推理引擎。
DeepGEMM
DeepGEMM:具备细粒度缩放功能的精简高效FP8通用矩阵乘内核
cuopt
GPU加速决策优化
SageAttention
量化注意力机制相比FlashAttention和xformers实现了2-5倍和3-11倍的速度提升,且在语言、图像和视频模型上保持端到端指标无损。
DeepEP
DeepEP:高效的专家并行通信库
mirage
Mirage持久化内核:将大语言模型编译为单一巨型内核
GPUMD
图形处理器分子动力学
instant-ngp
即时神经图形原语:极速神经辐射场(NeRF)及其他技术
DiffPhysDrone
发表于《自然·机器智能》!首个基于可微分物理训练的实体机器人(四旋翼飞行器)。
causal-conv1d
支持PyTorch接口的CUDA因果深度wise一维卷积实现
CUDALibrarySamples
CUDA库示例集
ThunderKittens
高性能核函数切片原语
cugraph
cuGraph - RAPIDS 图分析库
nccl-tests
NCCL测试套件
rtp-llm
RTP-LLM:阿里巴巴面向多样化应用的高性能大语言模型推理引擎。
llm.c
基于纯C/CUDA的简易大语言模型训练
DeepGEMM
DeepGEMM:具备细粒度缩放功能的精简高效FP8通用矩阵乘内核
ThunderKittens
高性能核函数切片原语
DeepEP
DeepEP:高效的专家并行通信库
CUDALibrarySamples
CUDA库示例集
SageAttention
量化注意力机制相比FlashAttention和xformers实现了2-5倍和3-11倍的速度提升,且在语言、图像和视频模型上保持端到端指标无损。
instant-ngp
即时神经图形原语:极速神经辐射场(NeRF)及其他技术
causal-conv1d
支持PyTorch接口的CUDA因果深度wise一维卷积实现
cuvs
cuVS - GPU向量搜索与聚类计算库
nccl-tests
NCCL测试套件
cuopt
GPU加速决策优化
GPUMD
图形处理器分子动力学
llm.c
基于纯C/CUDA的简易大语言模型训练
cuopt
GPU加速决策优化
DeepGEMM
DeepGEMM:具备细粒度缩放功能的精简高效FP8通用矩阵乘内核
rtp-llm
RTP-LLM:阿里巴巴面向多样化应用的高性能大语言模型推理引擎。
SageAttention
量化注意力机制相比FlashAttention和xformers实现了2-5倍和3-11倍的速度提升,且在语言、图像和视频模型上保持端到端指标无损。
llm.c
基于纯C/CUDA的简易大语言模型训练
rtp-llm
RTP-LLM:阿里巴巴面向多样化应用的高性能大语言模型推理引擎。
cuopt
GPU加速决策优化
SageAttention
量化注意力机制相比FlashAttention和xformers实现了2-5倍和3-11倍的速度提升,且在语言、图像和视频模型上保持端到端指标无损。
CUDA-Practice
CUDA编程练习项目——动手实践CUDA内核与性能优化,涵盖GEMM、FlashAttention、Tensor Cores、CUTLASS、量化、KV缓存、NCCL及性能分析。
DeepGEMM
DeepGEMM:具备细粒度缩放功能的精简高效FP8通用矩阵乘内核
ThunderKittens
高性能核函数切片原语
instant-ngp
即时神经图形原语:极速神经辐射场(NeRF)及其他技术
llm.c
基于纯C/CUDA的简易大语言模型训练
rtp-llm
RTP-LLM:阿里巴巴面向多样化应用的高性能大语言模型推理引擎。
ThunderKittens
高性能核函数切片原语
instant-ngp
即时神经图形原语:极速神经辐射场(NeRF)及其他技术
mirage
Mirage持久化内核:将大语言模型编译为单一巨型内核
SageAttention
量化注意力机制相比FlashAttention和xformers实现了2-5倍和3-11倍的速度提升,且在语言、图像和视频模型上保持端到端指标无损。
nccl-tests
NCCL测试套件
DeepEP
DeepEP:高效的专家并行通信库
DeepGEMM
DeepGEMM:具备细粒度缩放功能的精简高效FP8通用矩阵乘内核
cuvs
cuVS - GPU向量搜索与聚类计算库
instant-ngp
即时神经图形原语:极速神经辐射场(NeRF)及其他技术
rtp-llm
RTP-LLM:阿里巴巴面向多样化应用的高性能大语言模型推理引擎。
DeepGEMM
DeepGEMM:具备细粒度缩放功能的精简高效FP8通用矩阵乘内核
causal-conv1d
支持PyTorch接口的CUDA因果深度wise一维卷积实现
ThunderKittens
高性能核函数切片原语
how-to-optim-algorithm-in-cuda
如何在CUDA中优化某些算法
nccl-tests
NCCL测试套件
DeepEP
DeepEP:高效的专家并行通信库
cuopt
GPU加速决策优化
DeepGEMM
DeepGEMM:具备细粒度缩放功能的精简高效FP8通用矩阵乘内核
DeepEP
DeepEP:高效的专家并行通信库
ThunderKittens
高性能核函数切片原语
causal-conv1d
支持PyTorch接口的CUDA因果深度wise一维卷积实现
nccl-tests
NCCL测试套件
cuvs
cuVS - GPU向量搜索与聚类计算库
rtp-llm
RTP-LLM:阿里巴巴面向多样化应用的高性能大语言模型推理引擎。
cub
[已归档] CUDA C++协同原语 参见https://github.com/NVIDIA/cccl