1.怎样分析linux的源码性能指标
2.Kswapd 源码解析
3.高性能BPF内存分析工具解析
4.深入理解Linux内核内存回收逻辑和算法(LRU)
5.浅解Linux内核中NUMA机制(图例解析)
怎样分析linux的性能指标
LR
监控
UNIX/Linux
系统方法
一、准备工作:
1.
可以通过两种方法验证服务器上是源码否配置
rstatd
守护程序:
①使用
rup
命令,它用于报告计算机的源码各种统计信息,其中就包括
rstatd
的源码配置信息。使用命
令
rup
...,源码
此处
...
是要监视的
linux/Unix
服务器的
IP
,如果该命令返回相关的源码飞蛙源码
统计信息。则表示已经配置并且激活了
rstatd
守护进程;若未返回有意义的源码统计信息,或者出现一
条错误报告,源码则表示
rstatd
守护进程尚未被配置或有问题。源码
②使用
find
命令
#find / -name rpc.rstatd,源码
该命令用于查找系统中是否存在
rpc.rstatd
文件,如果没有,源码说明系统没
有安装
rstatd
守护程序。源码
2
.
linux
需要下载
3
个包:
(
1
)
rpc.rstatd-4.0.1.tar.gz
(
2
)
rsh-0.-.i.rpm
(
3
)
rsh-server-0.-.i.rpm
3
.下载并安装
rstatd
如果服务器上没有安装
rstatd
程序(一般来说
LINUX
都没有安装)
,源码需要下载一个包才有这个服
务
,源码
包
名
字
是
rpc.rstatd-4.0.1.tar.gz.
这
是
一
个
源
码
,
需
要
编
译
,
下
载
并
安
装
rstatd
(
可
以
在
municate with the portmapper on host '...'.
RPC: RPC call failed.
RPC-TCP: recv()/recvfrom() failed.
RPC-TCP: Timeout reached. (entry point: CFactory::Initialize). [MsgId: MMSG-]
检查原因,发现是源码
Linux
系统中的防火墙开启了并且阻挡了
LoadRunner
监控
Linux
系统的资源,
因此要将防火墙关闭。
关闭防火墙:
[root@localhost ~]# /etc/init.d/iptables stop;
三、监控
UNIX
lr
监控
UNIX
UNIX
先启动一
rstatd
服务
以下是在
IBM AIX
系统中启动
rstatd
服务的方法:
1
.使用
telnet
以
root
用户的身份登录入
AIX
系统
2
.在命令行提示符下输入:
vi /etc/inetd.conf
3
.查找
rstatd
,找到
#rstatd
sunrpc_udp
udp
wait
root /usr/sbin/rpc.rstatd rstatd 1-3
4
、将
#
去掉
5
、
:wq
保存修改结果
6
、命令提示符下输入:
refresh
–
s inetd
重新启动服务。
这样使用
loadrunner
就可以监视
AIX
系统的性能情况了。
注:在
HP UNIX
系统上编辑完
inetd.conf
后,网站简易源码重启
inetd
服务需要输入
inetd -c
UNIX
上也可以用
rup
命令查看
rstatd
程序是否被配置并激活
若
rstatd
程序已经运行,
重启时,
先查看进程
ps -ef |grep inet
然后杀掉进程,
再
refresh
–
s inetd
进行重启。
Kswapd 源码解析
kswapd是Linux内核中的一个内存回收线程,主要用于内存不足时回收内存。初始化函数为kswapd_init,内核为每个节点分配一个kswapd进程。每个节点的pg_data_t结构体中维护四个成员变量,用于管理kswapd线程。
在初始化后,每个节点的kswapd线程进入睡眠状态。唤醒时机主要在被动唤醒和主动唤醒两种场景:被动唤醒是内存分配进程唤醒并完成异步内存回收后,对节点内存环境进行平衡度检查,若平衡则线程短暂休眠ms后主动唤醒。主动唤醒是内存回收策略调用kswapd,对节点进行异步内存回收,让节点达到平衡状态。
内存回收包括快速和直接两种方式,但系统周期性调用kswapd线程平衡不满足要求的节点,因为有些任务内存分配不允许阻塞或激活I/O访问,回收内存相当于亡羊补牢,系统利用空闲时间进行内存回收是现场源码必要的。
kswapd线程通过module_init(kswapd_init)创建,一般处于睡眠状态等待被唤醒,当系统内存紧张时,会唤醒kswapd线程,调整不平衡节点至平衡状态。
kswapd函数包含alloc_order、reclaim_order和classzone_idx三个变量,用于控制线程执行流程。kswapd_try_to_sleep函数判断是否睡眠并让出CPU控制权,同时是线程唤醒的入口。balance_pgdat函数是实际内存回收操作,涉及内存分配失败后唤醒kswapd线程,调用此函数对指定节点进行异步内存回收。
kswapd_shrink_node函数通过shrink_node对低于sc->reclaim_idx的非平衡zone区域进行回收。
总结kswapd执行流程,其生命周期与Linux操作系统相似,平时处于睡眠状态让出CPU控制权。在内存紧张时被唤醒,有被动唤醒和周期性主动唤醒两种时机。被动唤醒发生在内存分配任务获取不到内存时,表明系统内存环境紧张,主动唤醒则是内存回收策略的执行。线程周期性唤醒在被动唤醒后的家具源码网短暂时间内,原因在于系统内存环境紧张,需要在这段时间内进行内存回收。
高性能BPF内存分析工具解析
Linux内核与CPU处理器协同工作,将虚拟内存映射到物理内存,以提升效率。内存管理通过创建内存映射的页组来实现,每页大小根据处理器实际情况设定,通常为4 KB。内核从页空闲列表分配物理内存页,优化分配策略以提高效率。分配器如slab分配器从空闲列表使用内存。
典型的内存页面管理过程包括申请、分配、存储和释放。繁忙应用中,用户层内存分配频繁,指令执行和MMU查找大量发生,对内存管理构成挑战。系统通过定期激活kswapd,检查空闲与活跃页面,释放内存以应对内存压力。kswapd协调后台页面召回,降低性能影响,yy喊话源码但可能引起CPU和磁盘I/O竞争。当内存回收受限,分配将被阻塞,并同步等待内存释放。内核shrinker函数触发直接回收,释放内存,减少缓存占用。
内存不足时,swap设备提供解决方案,允许进程继续分配内存,将不常用页面交换至swap,但会导致性能下降。关键系统倾向于避免使用swap,以防止内存不足导致进程被杀。内存不足情况下,oom killer作为内存释放的最后手段,通过规则选择牺牲进程。通过调整系统和进程配置,优化内存管理。
随着内存碎片化加剧,内核启动页面压缩与移动,释放连续内存空间。Linux文件系统利用空闲内存缓存数据,通过调整参数vm.swappiness,系统可以选择从文件缓存或swap释放内存。传统性能工具提供内存使用统计,但分析内存使用情况需要更深入理解,如page fault率、库分配等。BPF工具如kmem、kpages、slabratetop、numamove,以及oomkill和memleak,通过更高效、性能损耗更低的方式进行内存分析。
BPF相关工具提供内存分析能力,包括跟踪内存分配与释放事件、检测内存泄漏等。oomkill用于监控并打印oom killer事件详细信息,memleak跟踪内存分配与释放,辅助内存问题诊断。BPF工具为内存管理提供强大支持,结合源代码分析,可有效识别并解决内存问题。
深入理解Linux内核内存回收逻辑和算法(LRU)
在Linux内存管理中,LRU链表策略扮演着核心角色。操作系统通过active链表和inactive链表来跟踪内存页面的活跃程度,活跃页面在链表的前端,不活跃页面则位于后端。当页面被访问,活跃页面PG_active位会被置位,而PG_referenced位记录页面最近是否被访问。若长时间未被访问,PG_referenced位会被清除,进而可能从active链表转移到inactive链表。
struct zone中包含这些链表的关键字段,用于在活跃和不活跃页面之间移动。Linux通过PG_active和PG_referenced标志判断页面状态,避免过度依赖单一标志导致的活跃状态误判。Linux 2.6版本中,这两个标志在特定条件下协同工作,如页面频繁访问则从inactive链表移到active链表,反之则可能被清除。
页面移动的关键操作由函数如mark_page_accessed(), page_referenced(), activate_page()和shrink_active_list()执行。为减少锁竞争,Linux引入LRU缓存,通过pagevec结构批量管理页面,当缓存满时,页面才会一次性添加到链表中。
PFRA处理多种来源的页面,涉及free_more_memory()和try_to_free_pages()等函数。页面回收分为内存不足触发和后台进程kswapd定期操作,前者通过try_to_free_pages()检查并回收最不常用的页面,后者则通过balance_pgdat()调用shrink_zone()和shrink_slab()进行回收。
shrink_zone()的核心功能是将活跃页面移至不活跃链表,并回收不活跃链表中的页面。shrink_slab()则针对磁盘缓存页面的回收,通过shrinker函数进行处理。这些函数的源代码实现细节丰富,涉及内存分配和回收的复杂逻辑。
浅解Linux内核中NUMA机制(图例解析)
传统的SMP(对称多处理器)系统中,CPU数目增加会导致系统总线瓶颈问题,限制可扩展性。NUMA技术通过结合SMP系统的易编程性和MPP(大规模并行)系统的易扩展性,有效解决了SMP系统的可扩展性问题,成为高性能服务器主流架构。基于NUMA架构的服务器如HP Superdome、IBM x等。
NUMA系统由多个结点通过高速互连网络组成,每个结点包含一组CPU和本地内存。全系统内存分布于各个结点,不同结点间访问延迟不同。操作系统需感知硬件拓扑结构,优化访问策略。IA Linux中NUMA架构的物理拓扑描述通过ACPI实现。
Linux中使用Node、Zone和页三级结构描述物理内存。Node通过struct pg_data_t结构表示,每个结点维护在pgdat_list列表中。Zone表示内存的一段区域,用于跟踪页框使用、空闲区域和锁等信息。当内存压力大时,kswapd被唤醒进行页交换。每个zone有三个阈值,用于跟踪内存压力,指导kswapd工作。
NUMA调度器将进程分配至本地内存附近的处理器,优化性能。Linux 2.4内核调度器扩展至2.5时,加入多队列调度器O(1),并开发结点亲和的NUMA调度器。初始负载平衡在任务创建时进行,动态负载平衡在各结点内实现。CpuMemSets技术允许应用与CPU和内存绑定,充分发挥NUMA系统本地访存优势。
SGI Origin ccNUMA系统实现CpuMemSets,优化性能。Linux NUMA项目实现类似功能,适用于SGI Altix 服务器。cpumemmap和cpumemset结构提供应用CPU和内存亲和关系映射,内核在指定CPU调度任务,并分配指定结点内存。硬分区与软分区技术相比,软分区允许更灵活的CPU和内存控制。
测试验证Linux NUMA系统的性能和效率。在SGI Altix 系统中,通过Presta MPI测试包和NASA的NPB测试,结果显示系统具有高访存和计算性能。更多Linux内核源码高阶知识,可通过开发交流Q群获取,群内提供免费技术分享和资源。加入前名,额外赠送价值的内核资料包。
2024-11-20 17:01
2024-11-20 16:58
2024-11-20 16:32
2024-11-20 16:16
2024-11-20 16:14
2024-11-20 16:13
2024-11-20 15:30
2024-11-20 14:50