|
- 如何入门 OpenAI Triton 编程? - 知乎
Triton 的教程, 其实英文和中文版都很少, 知乎上有一些文章, 比如 杨军：谈谈对OpenAI Triton的一些理解 陈清扬：OpenAI Triton：25行代码实现cuBLAS GEMM 95%以上的性能 科研败犬丶：OpenAI Triton MLIR 第一章: Triton DSL 这些文章相对来说是比较专业的
- NVIDIA Triton是什么？ - 知乎
一、NVIDIA Triton Triton 是英伟达开源的推理服务框架，可以帮助开发人员高效轻松地在云端、数据中心或者边缘设备部署高性能推理服务器，服务器可以提供 HTTP gRPC 等多种服务协议。 Triton Server 目前支持 Pytorch、ONNXRuntime 等多个后端，提供标准化的部署推理接口，同时提供了模型批处理、模型融合
- 有没有模型推理服务化框架Triton保姆级教程？ - 知乎
Triton Mult-Model Execution Diagram 默认情况下，如果同时到达多个针对同一模型的请求（比如同时有两个请求分类模型model1），Triton会通过在GPU上 一次只调度一个来序列化它们的执行，如下图所示。
- CUDA和Triton哪个好用? - 知乎
CUDA和Triton各有优劣，适用不同的GPU编程需求。
- TVM,MLIR,Triton等深度学习编译器的主要区别是什么？ - 知乎
TVM 是正儿八经的深度学习编译器。且是目前功能最全面的、图算功能都有的AI编译器。 trition是基于MLIR框架的一款“算子”编译器，起初是为了绕过cuda去写gpu算子，现在成为MLIR社区的重要组成部分。而且未来如果linalg -- triton的路线能够打通，感觉有很多可以做的事情。（快去学triton，肯定不亏
- 华为昇腾920后续会接入OpenAI开源的Triton编程语言么吗？
感觉比较困难，因为triton很核心的tensor类编程要求了tensor和vector能力的交互。而npu本质还是加速器，编程能力不强。 2024 May 24更新如下 有希望，因为Ascend的整体编程模型是SPMD（Single Program Multiple Data）这和triton是一致的，对于耦合架构而言，tensor vector的交互似乎也解决了。但整个compiler工程的工作量
- Triton的BLOCK_SIZE指什么，为什么定义了BLOCK_SIZE还要定义num_warps? - 知乎
Triton中的BLOCK_SIZE指的是一个TheadBlock内 需要处理的数据量，而num_warps控制的是一个TheadBlock内处理数据的 硬件单元数量。 即，前者是 以应用的数据为中心，描述整个计算任务到TheadBlocks的划分和映射；后者是 以硬件为中心，描述一个ThreadBlock内包含多少个可以
- tritan这种材质真的安全吗？ - 知乎
从专利US8623483分析来看，tritan塑料应该就是所谓的共聚酯，简写为PCTG，是对苯二甲酸与四甲基环丁二醇、环己二醇聚合的共聚酯，这一塑料的发明公司伊士曼在中国也同时申请了专利，专利申请号CN200680020545。 这种塑料优点很多，2007年才被发明，解决了很多塑料的弊病，韧性好，冲击强度高，水解
|
|
|