1.深入理解 Python 虚拟机：列表（list）的源码实现原理及源码剖析
2.带你一步步调试CPython源码（二、词法分析）
3.教你阅读 Cpython 的解析源码（一）
4.ONNX一本通：综述&使用&源码分析（持续更新）
5.Python-Numpy模块tile函数[源码解析]
6.Python 结巴分词(jieba)源码分析

深入理解 Python 虚拟机：列表（list）的实现原理及源码剖析

       深入剖析 Python 虚拟机中列表（list）的内部机制和源码实现

       Python 中列表作为常用的数据结构，支持多种操作。源码本文将详细揭示 CPython 虚拟机中列表的解析构造原理，以及关键函数的源码源码解析。

       列表结构

       在 CPython 中，解析vs 购物商城源码PyListObject 的源码结构如下，包含内存管理、解析长度以及实际存储数据的源码数组等字段。

       列表操作函数源码分析

       创建列表：通过预先分配内存空间，解析下次创建新列表时复用旧空间，源码提高效率。解析

       append 函数：涉及数组扩容，源码当列表满时，解析自动扩展容量。源码

       insert 函数：简单实现，通过移动元素实现插入。

       remove 函数：删除元素时，调整后续元素位置。

       统计与拷贝

       -

       count 函数统计元素数量，浅拷贝函数 copy 只复制引用，深拷贝需借助 copy 模块的 deepcopy。

       清空与反转

       -

       clear 函数释放列表资源，reverse 函数通过交换数组元素指针实现列表反转。

       总结

       理解列表的实现细节有助于优化 Python 代码，提升程序效率。深入探索这些内部机制，可以更好地编写和维护 Python 代码。

带你一步步调试CPython源码（二、词法分析）

       本文是《深入理解CPython源码调试：词法分析篇》系列的第二部分，阐述CPython解释器如何进行Python代码的词法解析。首先，让我们回顾编译原理的基本步骤，编译过程包括词法分析、语法分析、中间代码生成和优化，以及最终代码执行。在CPython中，词法分析是IMCall聊天源码第一步，它会逐字符读取源码并将其转换为内部字节流，便于后续处理。

       CPython的词法分析和语法分析并非截然分开，许多词法分析逻辑在语法分析器中合并执行，这使得parser函数中可能包含词法处理的部分。尽管本文示例基于Python3.a2，但tokenizer的更新频繁，与文章内容可能存在差异。

       词法分析的核心任务是将用户输入的字符转换为token，如数字、符号等，以简化语法分析的复杂性。CPython中的词法分析逻辑存储在Grammar/Tokens文件中，其中列出了各种token及其对应的符号。这个文件虽不直接参与编译，但用于生成词法分析器，如在项目中添加相关代码并执行build.bat命令来更新。

       在Python/pythonrun.c中，我们会在行设置断点，跟踪CPython调用_PyParser_ASTFromFile将字符串转换为抽象语法树的过程。接着，程序会进入_PyPegen_run_parser_from_file_pointer，进行词法和语法分析。这个阶段从_PyTokenizer_FromFile开始，创建tok_state，初始化语法分析器，然后调用_PyPegen_run_parser执行核心逻辑。

       在Parser/tokenizer.c的行，程序通过tok_nextc函数逐字符读取用户输入，直到遇到换行等终止符号，期间还会调用tok_backup以处理多字符符号。随后，程序会根据Grammar/Token文件判断字符类别并生成相应的token，存储在tok_state中供语法分析使用。

       最后，CPython从键盘获取用户输入是通过PyOS_Readline系统调用实现的。词法分析器的生成逻辑则依赖于Grammar/Tokens文件，通过Tools/build/generate_token.py脚本解析并生成Parser/token.c中的竞拍前台源码相关代码。

       词法分析部分的解析至此完成，下篇文章将转向语法分析，探讨Pegen在其中的作用。

教你阅读 Cpython 的源码（一）

       目录

1. CPython 介绍

       在Python使用中，你是否曾好奇字典查找为何比列表遍历快？生成器如何记忆变量状态？Cpython，作为流行版本，其源代码为何选择C和Python编写？Python规范，内存管理，这里一一揭示。

       文章将深入探讨Cpython的内部结构，分为五部分：编译过程、解释器进程、编译器和执行循环、对象系统、以及标准库。了解Cpython如何工作，从源代码下载、编译设置，到Python模块和C模块的使用，让你对Python核心概念有更深理解。

       2. Python 解释器进程

       学习过程包括配置环境、文件读取、词法句法解析，直至抽象语法树。理解这些步骤，有助于你构建和调试Python代码。

       3. Cpython 编译与执行

       了解编译过程如何将Python代码转换为可执行的中间语言，以及字节码的缓存机制，将帮助你认识Python的编译性质。

       4. Cpython 中的对象

       从基础类型如布尔和整数，到生成器，深入剖析对象类型及其内存管理，让你掌握Python数据结构的核心。

       5. Cpython 标准库

       Python模块和C模块的交互，以及如何进行自定义C版本的安装，这些都是Cpython实用性的体现。

       6. 源代码深度解析

       从源代码的细节中，你会发现编译器的开源项目源码网站工作原理，以及Python语言规范和tokenizer的重要性，以及内存管理机制，如引用计数和垃圾回收。

       通过本文，你将逐步揭开Cpython的神秘面纱，成为Python编程的高手。继续深入学习，提升你的Python技能。

       最后：结论

       第一部分概述了源代码、编译和Python规范，后续章节将逐步深入，让你在实践中掌握Cpython的核心原理。

       更多Python技术，持续关注我们的公众号：python学习开发。

ONNX一本通：综述&使用&源码分析（持续更新）

       ONNX详解：功能概述、Python API应用与源码解析

       ONNX的核心功能集中在模型定义、算子操作、序列化与反序列化，以及模型验证上。它主要通过onnx-runtime实现运行时支持，包括图优化和平台特定的算子库。模型转换工具如tf、pytorch和mindspore的FMK工具包负责各自框架模型至ONNX的转换。

       ONNX Python API实战

       场景一：构建线性回归模型，基础操作演示了API的使用。

       场景二至四：包括为op添加常量参数、属性以及控制流（尽管控制流在正式模型中应尽量避免）。

       场景五和后续：涉及for循环和自定义算子的添加，如Cos算子，涉及算子定义、添加到算子集、Python实现等步骤。

       源码分析

       onnx.checker：负责模型和元素的检查，cpp代码中实现具体检查逻辑。

       onnx.compose、onnx.defs、onnx.helper等：提供模型构建、算子定义和辅助函数。gcc源码编译过程

       onnx.numpy_helper：处理numpy数组与onnx tensor的转换。

       onnx.reference：提供Python实现的op推理功能。

       onnx.shape_inference：进行模型的形状推断。

       onnx.version_converter：处理不同op_set_version的转换。

       转换实践

       ONNX支持将tf、pytorch和mindspore的模型转换为ONNX格式，同时也有ONNX到TensorRT、MNN和MS-Lite等其他格式的转换选项。

       总结

       ONNX提供了一个统一的IR（中间表示）框架，通过Python API构建模型，支持算子定义的检查和模型的序列化。同时，它利用numpy实现基础算子，便于模型的正确性验证，并支持不同框架模型之间的转换。

Python-Numpy模块tile函数[源码解析]

       本文将深入解析Python numpy 模块中的 tile 函数，探讨其功能、参数类型限制及实际应用场景。tile 函数主要用于复制数组，实现重复操作。

       函数 tile(A, reps) 中，A 和 reps 需要提供数组或其他序列化类型作为输入。A 可以是数组、列表、元组、字典、矩阵甚至基本 Python 数据类型如 int、float、string、bool。而 reps 的输入类型可以是 tuple、list、dict、array、int 或 bool，但不支持 float、string 和 matrix 类型作为输入参数。

       理解 tile 函数的关键在于其如何实现数组复制功能。其实，如果能够利用 Python 的广播功能，无需调用 tile 函数。本文将通过源码分析，揭示 tile 函数的运作机制，以及如何在实际应用中正确使用它。

       tile 函数源码解析

       深入分析 tile 函数源码，我们首先关注函数头部定义，然后对 reps 参数进行特殊处理。将 reps 转换为元组类型，是解析函数逻辑的关键步骤。我们逐一分析元组转换过程，以及不同类型输入如何处理。

       在源码中，当 reps 输入不符合要求的类型时，会抛出 TypeError 异常，并将异常值放入元组中，从而实现兼容性处理。通过元组长度的获取，我们可以理解函数如何处理重复次数。

       在进一步的代码分析中，我们发现元组长度与输入数组维度的匹配性至关重要。判断语句中，通过检查数组维度与重复次数的一致性，确保函数能够准确执行复制操作。如果维度不匹配，则通过特定代码逻辑进行处理，确保函数能够正确识别并执行操作。

       形成最终输出结果的 shape 函数，通过将 shape 属性与重复次数相乘，实现数组复制效果。核心代码集中在对原始数据的维度进行重复处理，确保最终输出的数组形状符合预期。

       示例代码

       通过示例代码，直观展示 tile 函数的使用方法。例如，对于数组 A = [1, 2] 和 reps = (1, 1)，函数将 A 复制为相同形状。而对于数组 A = [[1, 2], [3, 4]] 和 reps = (1, 2)，tile 函数将 A 按照给定的重复次数生成相应形状的输出。

       通过源码解析与实际应用示例，本文旨在帮助开发者深入了解 numpy 模块中的 tile 函数，提高代码编写效率与准确性。

Python 结巴分词(jieba)源码分析

       本文深入分析Python结巴分词(jieba)的源码，旨在揭示其算法实现细节与设计思路，以期对自然语言处理领域感兴趣的朋友提供有价值的参考。经过两周的细致研究，作者整理了分词算法、实现方案及关键文件结构的解析，以供读者深入理解结巴分词的底层逻辑。

       首先，分词算法涉及的核心技术包括基于Trie树结构的高效词图扫描、动态规划查找最大概率路径和基于HMM模型的未登录词处理。Trie树用于生成句子中所有可能成词情况的有向无环图（DAG），动态规划则帮助在词频基础上寻找到最优切分组合，而HMM模型则通过Viterbi算法处理未在词库中出现的词语，确保分词的准确性和全面性。

       在结巴分词的文件结构中，作者详细介绍了各个关键文件的功能与内容。dict.txt作为词库，记录着词频与词性信息；__init__.py则是核心功能的入口，提供了分词接口cut，支持全模式、精确模式以及结合最大概率路径与HMM模型的综合模式。全模式下，会生成所有可能的词组合；精确模式通过最大概率路径确定最优分词；综合模式则同时考虑概率与未登录词，以提高分词效果。

       实现细节方面，文章通过实例代码解释了全模式、精确模式及综合模式的分词逻辑。全模式直接输出所有词组合；精确模式基于词频和最大概率路径策略，高效识别最优分词；综合模式利用HMM模型处理未登录词，进一步提升分词准确度。通过生成的DAG图，直观展示了分词过程。

       结巴分词的代码实现简洁而高效，通过巧妙的算法设计和数据结构应用，展示了自然语言处理技术在实际应用中的强大能力。通过对分词算法的深入解析，不仅有助于理解结巴分词的功能实现，也为自然语言处理领域的研究与实践提供了宝贵的洞察。

Pytorch之Dataparallel源码解析

       深入解析Pytorch之Dataparallel源码

       在深入理解Dataparallel原理之前，需要明白它的使用场景和目的。Dataparallel设计用于在多GPU环境下并行处理数据，提高模型训练效率。

       初始化阶段，Dataparallel需要实例化一个模型。这一步中，模型的参数会被复制到所有可用的GPU上，从而实现并行计算。

       在前向传播阶段，Dataparallel的核心作用体现出来。它会将输入数据分割成多个小批次，然后分别发送到各个GPU上。在每个GPU上执行前向传播操作后，结果会被收集并汇总。这样，即便模型在多GPU上运行，输出结果也如同在单GPU上运行一样。

       具体实现中，Dataparallel会利用Python的多重继承和数据并行策略。它继承自nn.Module，同时调用nn.DataParallel的构造函数，从而实现并行计算。

       对于那些需要在GPU间共享的状态或变量，Dataparallel还提供了相应的管理机制，确保数据的一致性和计算的正确性。这样的设计使得模型能够高效地在多GPU环境下运行，同时保持代码的简洁性和易读性。

       总结而言，Dataparallel通过分割数据、并行执行前向传播和收集结果的机制，实现了高效的数据并行训练。理解其源码有助于开发者更好地利用多GPU资源，提升模型训练效率。

Python modbus_tk 库源码分析

       modbus_tcp 协议是工业项目中常用的设备数据交互协议，基于 TCP/IP 协议。协议涉及两个角色：client 和 server，或更准确地称为 master 和 slave。modbus_tk 库作为 Python 中著名且强大的 modbus 协议封装模块，其源码值得深入分析，尤其是在关注并发量等方面的需求时。深入研究 modbus_tk 库的源代码和实现逻辑，对在库的基础上进行更进一步的开发尤其重要。因此，本文旨在提供对 modbus_tk 库源码的深入解析，以供参考。

       实例化 TcpMaster 对象时，首先导入 TcpMaster 类，该类继承自 Master，但在实例化时并未执行任何操作。Master 的 `__init__()` 方法同样没有执行任何具体任务，这使得 TCP 链接在创建 TcpMaster 实例时并未立即建立。TCP 链接的建立在 `open()` 方法中实现，该方法由 TcpMaster 类执行。在 `open()` 方法中，自定义了超时时间，进一步保证了 TCP 连接的建立。

       在 TcpMaster 类的 `execute()` 方法中，核心逻辑在于建立 TCP 协议的解包和组包。在读写线圈或寄存器等操作时，都会调用 `execute()` 方法。详细分析了 `execute()` 方法的具体实现，包括通过注释掉的组包等过程代码，以及 `TcpMaster._make_query()` 方法的实现。`_make_query()` 方法封装了请求构建过程，包括生成事务号、构建请求包和发送请求。

       在请求构建完成后，`_send()` 方法负责通过 `select` 模块进行连接状态检测，确保发送数据前连接无异常。通过分析 `execute()` 方法的后续逻辑，我们能够看到一个完整的组包、发送数据及响应解析的源码流程。响应解析涉及 `TcpMaster.execute()` 方法中对 MBAP 和 PDU 的分离、解包及数据校验。

       在解析响应信息时，`TcpQuery().parse_response()` 方法解包并验证 MBAP 和 PDU，确保数据一致性。通过此过程，获取了整个数据体，完成了响应信息的解析。在 `execute()` 方法的后续部分，没有执行新的 I/O 操作，进一步简化了流程。

       为了保障线程安全，`threadsafe` 装饰器被添加在 `Master.execute()` 方法及 `TcpQuery._get_transaction_id()` 方法上。这一装饰器确保了跨线程间的同步，但可能引起资源竞争问题。在实际应用中，为了避免同一设备不能同时读写的情况，可以显式传递 `threadsafe=False` 关键字参数，并实现自定义锁机制。

       modbus_tk 模块提供了丰富的钩子函数，如 `call_hooks`，在数据传递生命周期中自动运行，实现特定功能的扩展。常见的钩子函数包括初始化、结束、请求处理等，这些功能的实现可以根据具体需求进行定制化。