1.LLVM后端探究-Intrinsic篇
2.V8 编译浅谈
3.TVM 自底向上（二）：TIR 的源码概念和编译原理
4.LLVM IR 指南
5.OpenAI/Triton MLIR 第零章: 源码编译
6.AI编译器技术剖析（二）-传统编译器

LLVM后端探究-Intrinsic篇

       LLVM后端中的Intrinsic机制

       当使用标准C语言开发，但目标指令集包含如rd=rd*ra*rs这样的源码复杂操作时，LLVM的源码中间表示(Machine IR, MIR)可能无法直接映射。例如，源码若指令含义变为rd=rd*rd+ra*ra+rs*rs，源码直接转换会变得困难。源码源码11100求x虽然多指令组合可实现，源码但在源代码层面，源码这种操作通常只需一行。源码此时，源码LLVM的源码Intrinsic机制就显得尤为重要。

       Intrinsic在LLVM中扮演了底层操作的源码桥梁，它允许开发者在源代码级别直接表达复杂指令，源码然后在编译器后端处理。源码以ARM后端为例，源码我们可以通过定义新的Intrinsic函数来简化代码。首先，需要在BuiltinARM.def文件中新增函数定义，如__builtin_arm_mulll，指定参数和返回类型。接着，在IntrinsicsARM.td文件中定义其对应的指令选择。

       要实际应用Intrinsic，C代码需要相应调整，比如使用__builtin_arm_mulll(a, b, c)代替复杂的指令组合。编译时，可以看到原来的多条IR指令被替换为一个Intrinsic形式的指令，汇编结果也显示出匹配的底层操作指令smlabb，通过参数-march=armv5te启用。

       尽管本文以ARM后端为例，但Intrinsic的实现需要对目标后端有深入理解。对于新后端，可能需要更全面的诛剑奇侠传源码教程和库支持。本文仅展示了Intrinsic的基本使用，还有待进一步完善，特别是对于新指令的添加和Intrinsic框架的构建。

       总的来说，Intrinsic是LLVM后端优化的一种工具，通过它，开发者可以在源代码层面更直观地表达复杂的底层操作，提升编译效率和代码可读性。希望本文对LLVM开发者有所启发，若有任何疑问或建议，欢迎交流。

V8 编译浅谈

       V8 编译原理详解

       本文旨在介绍 JavaScript 在 V8 编译器中的解析过程，帮助读者理解 JavaScript 如何在 V8 中高效运行。V8 作为 Chrome 浏览器和 Node.js 的核心引擎，采用了混合动态编译技术，通过编译器组件如Ignition和TurboFan来提升性能。

       编译器与解释器

       首先，区分解释器和编译器：解释器如Perl直接执行源代码，而编译器如Java，先将源码转化为机器可执行的中间表示（IR），通过多轮迭代优化。编译器的关键组件包括IR，用于优化源码并生成高效目标代码。

       JIT编译与混合动态编译

       早期，Web前端对启动速度有高要求，因此采用解释器。为提高运行时性能，V8 引入JIT编译技术，结合混合编译，实时优化代码。这种编译框架解决了JavaScript性能问题，让代码运行更快。彩虹堂php源码

       V8 编译原理详解

       1. Ignition解释器：将抽象语法树（AST）转化为字节码，并利用类型反馈优化热点代码，生成Feedback Vector，指示优化方向。

       2. TurboFan优化编译器：利用JIT技术，根据运行时信息生成优化后的机器代码，通过反馈向量进行动态编译优化和去优化。

       运行时表现

       通过D8调试工具，可以查看代码的编译和运行信息，如AST、字节码、优化和去优化过程。通过分析，加深对V8编译过程的理解。

       通过实战操作，如生成AST、字节码和检查运行时反馈，可以直观地体验V8的编译与优化策略。

       要深入探究，可以尝试使用D8工具和V8的Native API，如%DebugPrint，探索更多细节。

TVM 自底向上（二）：TIR 的概念和编译原理

       在深入探讨TVM中的编译过程与中间表示（IR）时，特别是TIR（Tensor IR）的概念及其编译原理，本节将重点聚焦于如何将神经网络模型转化为硬件源代码，以帮助读者更深入地理解这一复杂过程，并找到学习TVM的乐趣。

       TIR是TVM中最接近目标硬件的数据结构，无论前端模型（如pytorch、tensorflow或ONNX）经过了哪些转换，最终在被编译为目标后端代码前，都需要被转化为TIR。uy个人网站源码TVM的编译流程中，TIR起着核心作用，其位置如图所示。

       在TIR的实现中，抽象语法树（AST）扮演着关键角色。AST是一种通用的数据结构，用于表示任何编程语言的语法结构。它由节点组成，每个节点代表一种语言元素，如变量、函数调用或控制结构。在TIR中，AST为编译为不同硬件（如C++、CUDA、LLVM IR等）的代码提供了一个通用的结构。

       通过将AST转换为源代码（CodeGen过程），TIR能够解决神经网络推理计算中遇到的两个主要问题：首先，它能够表示深度学习算子（如卷积、池化、ReLU）和控制结构（如min、max、if-else），这些算子和控制结构都基于基本的数学运算。其次，TIR的通用性使得加速逻辑可以被抽象化并应用于各种硬件架构，从而实现跨平台的加速。

       TVM中的关键概念包括：IRModule、PrimFunc和CodeGen。IRModule是TVM中最小的编译单元，用于封装待编译的TIR和其他中间表示。PrimFunc封装了完整的AST，作为IRModule的快递代发平台源码API，对应生成.so库的函数入口。CodeGen负责将AST转换为目标硬件的源代码，本质上是一个树遍历迭代器。

       TVMScript提供了一种简化TIR AST开发的方法，它利用Python AST（Python的语法树实现，如Cython使用），允许直接使用Python语法编写AST，从而简化了TIR的开发流程。TVMScript还支持双向转换，即可以从TIR AST生成TVMScript，也可以从TVMScript解析回TIR AST。

       通过调用tvm.build函数，可以将IRModule编译为目标代码并运行，该过程根据所选的目标（如CPU、GPU或LLVM IR）选择适当的CodeGen。对于不同的目标，CodeGen过程涉及将TIR AST转换为目标硬件的源代码，然后使用相应的编译器生成可执行文件。例如，对于C++目标，CodeGen过程包括TIR到C++源代码的转换，而CUDA目标则涉及TIR到CUDA源代码的转换。

       最后，本节概述了使用TVMScript编写TIR AST和调用适当CodeGen编译为源代码的完整流程，并强调了其他相关章节的内容。通过了解这些概念和原理，读者能够更深入地理解TVM编译过程的内在机制，从而为探索和应用TVM提供坚实的基础。

LLVM IR 指南

       LLVM IR是一种通用的程序表示形式，编程语言编译器通过前端生成并经过一系列分析和转换（称为pass）生成优化后的IR。这种表示允许跨语言和硬件的隔离，便于优化，并支持在不同阶段进行优化，比如runtime时，IR会被保留并在发现可优化点时进行重新编译。

       LLVM IR有三种形式：内存中的ir、硬盘上的bitcode文件(ir.bc)和供人阅读的文本形式(ir.ll)。在编译过程中，ir的内存格式用于全阶段优化，特别是在需要runtime优化时。

       LLVM工具链包含了编译LLVM源码所需的工具，通常在编译目录的bin目录下。要生成IR的基本结构，可以使用clang命令。IR的基本结构由module、function、basicblock和instruction组成，每个模块可能包含多个函数，每个函数由多个基本块构成，体现了控制流的执行逻辑。

       LLVM的Pass Manager执行分析和转换，包括analysis pass和transform pass。新旧Pass Manager在结构和命令行使用上有所不同。Pass的执行顺序通常从module开始，逐步深入到function、loop等层次，涉及到如别名分析、MemorySSA和Loop-Invariant-code-motion等优化策略。

       例如，别名分析分析变量的load/store操作产生的别名，通过构建语句间的约束和迭代生成alias，提供函数间的内存依赖信息。MemorySSA则在此基础上，提供内存依赖查询，便于IR的分析和transform pass。

       Link-time优化是LLVM的另一大优势，它允许在链接阶段对整个程序的IR进行优化，利用内存中的IR进行更深入的分析和改进。这比传统编译过程中的优化更为灵活和高效。

       调试和命令行使用方面，LLVM提供了丰富的工具和技巧，帮助开发者在编译过程中进行调试和优化，比如MakeFile中的关键语句和调试技巧。

OpenAI/Triton MLIR 第零章: 源码编译

       本文旨在深入探讨开源AI项目OpenAI Triton MLIR，着重介绍Triton作为编程语言与编译器在GPU加速计算领域的应用与优化。Triton为用户提供了一种全新的方式，通过将其后端接入LLVM IR，利用NVPTX生成GPU代码，进而提升计算效率。相较于传统CUDA编程，Triton无需依赖NVIDIA的nvcc编译器，直接生成可运行的机器代码，体现出其在深度学习与数据科学领域的高性能计算潜力。Triton不仅支持NVIDIA GPU，还计划扩展至AMD与Intel GPU，其设计基于MLIR框架，通过Dialect支持多样化后端。本文将从源码编译角度出发，逐步解析Triton的设计理念与优化策略，为研究编译技术和系统优化的工程师提供宝贵资源。

       首先，需要访问Triton的官方网站，克隆其官方代码库，以便后续操作。构建过程涉及两个重要依赖：LLVM与pybind。LLVM作为Triton的核心后端，通过将高级Python代码逐步转换至LLVM IR，最终生成GPU可运行代码，体现了其在计算优化领域的优势。pybind组件则用于封装C++/CUDA或汇编代码，实现Python DSL与高性能组件的无缝集成。

       接下来，将LLVM与pybind分别编译安装，通过手动配置指定路径，确保编译过程顺利进行。LLVM的安装对于基于Triton进行二次开发的工程师和研究人员至关重要，因为它为Triton提供了强大的计算基础。在特定的commit ID下编译Triton，确保与后续版本兼容。

       在编译过程中，配置pybind同样至关重要，它允许用户通过Python API调用高性能组件，实现自动化生成高性能算子。完成编译后，生成的.so文件（libtriton.so）为后续Triton的Python接口提供了支持。

       将libtriton.so移动至triton/python/triton/_C目录下，确保Python路径正确配置，实现无缝导入与调用。通过简单的import triton命令，即可开启Triton的开发之旅。验证Triton性能，可以选择tutorials目录下的示例代码，如-matrix-multiplication.py，通过运行该脚本，观察Triton在GPU上的性能表现。

       Triton在NVGPU上的成熟映射路线，从抽象的Python DSL到贴近GPU层面的IR，最终生成高效机器代码，体现了其在高性能计算领域的优越性。Triton未来的发展蓝图将支持更多前端语言，对接不同硬件厂商的硬件，实现高效映射，满足多样化计算需求。

AI编译器技术剖析（二）-传统编译器

       AI技术的广泛应用中，智能家居和自动驾驶都依赖于NLP和计算机视觉等AI模型，这些模型部署在云、专用设备和物联网设备中。在将AI模型从研发到实际应用的过程中，编译器的作用日益凸显，特别是在处理非标准算子的模型部署上。AI编译器的兴起预示着未来十年的快速发展。

       AI编译器技术建立在传统编译器的基础之上。它首先在IR层面优化模型，然后通过lowering将高级IR转换为传统编译器理解的低级IR，最后依赖传统编译器生成机器码。要理解AI编译器，先要掌握传统编译器的基本原理，包括其预处理、编译和链接流程，以及前端、优化器和后端的分工。

       传统编译器的核心是源代码到机器码的转换过程。它通常由预处理器、编译器（分前端、优化器和后端）和链接器组成。编译器负责将高级语言转换为机器代码，而解释器则在运行时进行转换。AOT和JIT编译的区别在于执行时间：AOT在编译前完成，JIT则在运行时动态优化。

       主流编译器如GCC，其源代码庞大且复杂，包含语言相关的代码、通用代码和根据机器描述生成的代码。GCC的流程包括词法分析、语法分析、优化，以及目标代码生成。而LLVM提供了一种模块化的编译器框架，支持自定义前端和后端，比如Apple的Clang，它直接支持C++等语言并转化为LLVM IR。

       编译器优化是提升性能的关键，包括常量传播、常量折叠、复写传播等。它们通过消除冗余计算和改进代码结构来提高执行效率。例如，通过公共子表达式消除，可以避免不必要的计算；通过函数调用优化，如尾递归优化，减少函数调用的开销。

       总的来说，本文概述了传统编译器的基础，以及AI编译器如何在其基础上发展，展示了编译器的架构、优化策略和不同编译器工具的特性，为理解AI编译器技术提供了基础。