1.TinyML-TVM是源码如何驯服Tiny的（上）
2.为什么要用CMSIS RTOS
3.APP抓包大全
4.metaRTC5.0新版本支持mbedtls(PolarSSL)

TinyML-TVM是如何驯服Tiny的（上）

       低成本、人工智能驱动的源码消费类设备的激增，激发了研究者对“裸智能”（低功耗、源码通常无操作系统）设备的源码兴趣。传统上，源码专家能在这些设备上运行某些模型，源码我的电脑 源码但为不同设备优化模型是源码个挑战，往往需要针对设备的源码手动优化。尤其是源码针对没有Linux支持的平台，没有可扩展的源码模型部署解决方案。因此，源码开发者通常需要创建一次性的源码定制软件堆栈，以管理资源和调度模型执行。源码

       尽管机器学习软件的源码优化并不是裸机领域特有的难题，它与GPU和FPGA等硬件后端的源码开发人员共同面对。TVM展现出了适应新硬件目标的能力，但在微控制器独特配置的挑战下，它之前还未能提供足够的支持。为解决这一问题，TVM扩展了微控制器后端，c stack源码即µTVM（发音为“MicroTVM”），以在裸机设备上执行张量程序，并通过TVM内置的张量程序优化器AutoTVM自动优化这些程序。上图展示了µTVM+AutoTVM基础设施的概览。

       µTVM+AutoTVM的实际应用

       在讨论TVM/MicroTVM及其工作原理之前，我们先看一个实际应用示例。假设我们使用STMFZG板，它配备了一个强大的ARM Cortex-M7处理器，非常适合边缘人工智能应用。通过USB-JTAG端口将板连接至桌面，使用OpenOCD打开与设备的JTAG连接，从而通过µTVM使用设备无关的TCP套接字控制M7处理器。在桌面上运行TVM代码，执行CIFAR-分类器，如完整脚本所示：

       在这个设置中，性能表现可能不佳，但AutoTVM提供了一线生机。通过为设备编写调度模板并进行一轮自动调整，可以显著提升性能。测权重源码具体来说，只需替换原始构建行：

       然后替换为：

       这样，结果将显著提升，性能大约提升2倍，与CMSIS-NN版本5.7.0（commit ab7c9a）相比，后者是一个手工优化的ML内核库。

       µTVM的性能表现与CMSIS-NN模型相比较具竞争力，但工作才刚刚开始，利用TVM的优化特性还有更多空间。通过加速密集/全连接运算（如密集/全连接操作）并利用TVM的模型特定量化和运算符融合功能，可以进一步优化性能。µTVM与TVM能够协同工作，发挥最佳性能。

       µTVM的设计理念

       µTVM旨在满足设备最低公分母的要求，只需提供设备的C交叉编译器工具链、读/写设备内存的方法、设备内存布局和体系结构特征的规范以及为设备准备函数执行的代码段。大多数裸机设备都支持C和JTAG，因此（1）和（2）通常是uniapp源码集合免费的。此外，（3）和（4）要求通常较小。例如，STMF系列板的（3）和（4）示例如下：

       µTVM基础设施和设备runtime的构建是为了满足这些需求，正努力通过支持常见的开源runtime平台（如mBED OS）来简化编译和链接过程。

       µTVM的设备会话

       考虑到微控制器的网络特性，引入了微会话的概念，它稍微偏离了标准的TVM代码。µTVM中的每一项功能都依赖于与目标设备的开放会话。在第一个代码片段中，一行代码偏离了规范，即这一行：

       通过这个with块内的每一行，都可以调用µTVM中的函数，上下文是device_config指定的设备。这条线背后做了很多工作，让其拆分如下：

       首先，它初始化与设备的连接，使用指定的任何通信方法（通常是OpenOCD）。然后使用指定的自制积木源码交叉编译器交叉编译µTVM设备runtime。最后，主机为编译后的二进制文件分配空间，并使用打开的连接将二进制文件加载到设备上。

       由于runtime现在位于设备上，自然需要一些函数来运行它。

       模块加载

       TVM的核心抽象之一是模块。模块为特定设备/ runtime目标存储一组相关函数。考虑到微控制器通常没有操作系统，µTVM需要额外的工作来维护这种高级抽象。跟踪创建和加载µTVM兼容模块的过程：

       假设有一个微型会议打开设备，并实现二维卷积的TVM调度。如果想把它加载到微控制器上，需要将C代码发出。为了实现这一点，只需要设定目标tvm.build或relay.build，例如：

       然后，通过µTVM基础设施中的核心功能运行它：create_micro_mod：

       这样，交叉编译模块中的C源代码，为生成的二进制文件分配空间，然后将二进制文件的每个部分发送到设备上分配的插槽中。一旦模块二进制文件在设备内存中处于合适的位置，二进制文件中的函数指针将被修补，使模块能够在设备runtime访问帮助函数（例如，分配草稿行）。

       加载内核后，可以获取卷积函数的远程句柄，如下所示：

       张量加载

       如果要调用运算符，首先需要一些张量作为参数：

       然后，根据其数据类型（例如int8、float等）和形状，计算每个张量的字节大小，主机在设备堆上分配内存区域。接着将张量的数据加载到分配的区域中。

       函数调用

       运算符执行可能是系统中最复杂的部分。为了简化表示，我们首先讨论严格执行（运算符一被调用就立即执行），然后是延迟执行（只有在需要运算符的结果时才执行运算符），这是系统的实际工作方式。

       严格执行

       调用函数时，输入和输出张量都作为参数传递，这就是目标传递样式：

       考虑到这些张量已经在设备上分配，只需要向设备发送元数据（设备地址、形状和数据类型），设备就能知道使用哪个驻留张量。下面显示了一个名为“runtime”的函数调用。在构造这个表示之前，需要将元数据序列化到设备上专门为此目的而存在的arguments部分中。

       µTVM会有一个全局UTVMTask实例，从主机端写入该实例。一旦写入任务，runtime就拥有了执行函数所需的一切，可以在runtime的入口点开始执行。runtime执行一些轻量级初始化，运行运算符，然后将控制权返回给主机。

为什么要用CMSIS RTOS

       1、集成在keil中，没有所谓移植概念。针对任何MCU都可以一键添加（试想一下，如果你将来用的不是STM，那么移植OS是不是还是那么容易）；

       2、占用资源极小。大约5kB，而且针对cortex系列ARM官方优化，效率不言自明；

       3、组件丰富。常用中间件USB/network/GUI/文件系统等，ARM官方已经准备好，只需要在keil中一键添加，同样没有移植概念；

       4、仿真非常方便。在keil的debug模式中，轻松查看任务的CPU、内存占用，还有各任务的运行时间、运行状态，各任务之间如何抢占，非常直观，不需要像其他RTOS那样调用专用的查看函数；

       5、CMSIS RTOS是ARM现在热推的物联网操作系统mbedOS的基础，搞懂这个RTOS API，mbedOS更容易上手，物联网是大势所趋，ARM的在这个浪潮中的地位众所周知（软银收购ARM的核心原因），物联网以后估计会产生大量的相关工作机会；

       6、使用极简单。再次提醒，CMSIS RTOS只是一套API，有兴趣的可以去研究它封装OS源码，没兴趣的，看看API拿来就用；

       7、免费！这点和freeRTOS一样，比uc/oS更有潜力，不过freeRTOS是个人开源项目，后续升级维护缺乏商业模式，而ARM刚从软银那里搞来大笔钱，估计后续发展推广更为强劲，话说回来，如果freeRTOS真的非常优秀，ARM也可以对它进行封装。

APP抓包大全

       一、抓包细节点拨

       确保手机信任安装的证书，并将其放置在系统目录(1)，同时务必校准手机时间至当前，以便获取精确信息。移动证书至根目录，magisk的move certificates模块为这一过程提供了便捷(2)。

       二、多元抓包手段

       设置手机代理，使用burp进行常规抓包(1)

       通过手机转发流量，启用burp的透明代理功能，实现更深入的包监控(2)

       在linux环境中，通过无线共享和流量转发，利用mitm工具进行抓包(3)

       ，关注特殊发包框架的调整()

       Flutter应用抓包，参考"Flutter应用逆向抓包"，关注全局代理设置()

       微信小程序抓包，降低微信版本有助于抓包()

       WSS抓包，charles的socket5模式是关键()

       tcp、udp抓包挑战，wireshark直视，寻求更高效分析法()

       四、灵活运用与总结

       以上抓包顺序、hook框架和工具的搭配需根据具体情况灵活调整，结合其他工具的特性，发挥你的创造性思维()。更多实用技巧，参考以下文章进行深入学习：

1: 深入探讨链接

2: 文章一

3: 文章二

metaRTC5.0新版本支持mbedtls(PolarSSL)

       mbed TLS(PolarSSL)是TLS和SSL协议的实现，特别适合小型嵌入式设备，性能优越于openssl。metaRTC5.0版本新增支持openssl与mbed TLS。此版本对mbedtls2.0与3.0版本具有兼容性。

       下载mbedtls源码并进行编译，需对mbedtls/mbedtls_config.h(mbedtls3.0)与mbedtls/config.h(mbedtls2.0)中的参数进行修改，去掉#define MBEDTLS_SSL_DTLS_SRTP的注释以激活其功能。

       使用CMake文件(CMakeLists.txt)进行编译配置，将ON设置在cmake文件中以支持mbedtls，或者通过编译参数实现支持。

       创建build目录并切换至该目录，执行cmake ..命令进行预编译，然后使用make命令进行编译。

       对于metaRTC的编译，需调整yang_config.h中的配置，将Yang_Using_Openssl设为1以使用openssl，或设为0使用mbedtls。在qt demo工程中，需注释openssl相关部分，取消mbedtls部分的注释。在cmake工程中，需设置mbedtls静态库的链接。