Linux系统调试工具之sysdig使用详解

sysdig是sysdig cloud 出品的主要基于Lua语言开发一个超强的工具，就像其在站点首页上所描述的“ Sysdig is open source, system-level exploration: capture system state and activity from a running Linux instance, then save, filter and analyze. Think of it as strace + tcpdump + lsof + awesome sauce. ” ，sysdig相当于strace + tcpdump + lsof + htop + iftop 以及其他工具的合集 ，除此之外其还能对容器如docker、coreOS、LXC进行监控，是不是感觉牛皮吹的很大？到底功能如何，看下面。

注：另外该工具也支持windows平台和mac平台，由于平时工作主要涉及linux平台，有兴趣的可以自行测试。

一、安装

本篇主要介绍在centos下的用法安装和测试，后面也会提到在ubuntu类平台下的安装。其支持在centos6和centos7上安装，安装方法十分简洁：

1、centos下的安装

1.1一键安装

curl -s https://s3.amazonaws.com/download.draios.com/stable/install-sysdig | sudo bash
上面是一个shell 脚本，会识别常用的linux发行版本，并根据对应的版本配置源，最后是安装sysdig包。在redhat/centos上首先会配置的是epel 源 ，配置该源的目的是安装dkms包；然后会配置draios源，通过该源可以安装sysdig包。最后在装sysdig包之前还会先安装kernel-devel包。

1.2、分步安装

由于使用的源都是国外源，会出现安装比较慢的情况，所以使用一键安装失败时，可以使用分解步骤安装。在内网环境下的也可以将依赖包都下下来再安装。

#导入draios源
rpm --import https://s3.amazonaws.com/download.draios.com/DRAIOS-GPG-KEY.public
curl -s -o /etc/yum.repos.d/draios.repo http://download.draios.com/stable/rpm/draios.repo
#导入epel 源
rpm -i http://mirror.us.leaseweb.net/epel/6/x86_64/epel-release-6-8.noarch.rpm
#装包
yum -y install kernel-devel*  dkms  sysdig
sysdig依赖的两个包，一个是kernel-devel ,一个是dkms包，DKMS全称是Dynamic Kernel Module Support （动态内核模块支持），即在内核版本变动之后可以自动重新生成新驱动模块。想要了解的可以自行GOOGLE 。

2、ubuntu下的安装

curl -s https://s3.amazonaws.com/download.draios.com/DRAIOS-GPG-KEY.public | apt-key add -
curl -s -o /etc/apt/sources.list.d/draios.list http://download.draios.com/stable/deb/draios.list
apt-get update
apt-get -y install linux-headers-$(uname -r)
apt-get -y install sysdig
windows、Mac OS及其他linux发行版的安装，可以参看官方安装文档。

二、常用用法

默认按上面的方法安装好以后，执行sysdig是会出错的。提示如下：

# sysdig
Unable to load the driver
error opening device /dev/sysdig0. Make sure you have root credentials and that the sysdig-probe module is loaded.
所以执行之前还需要使用/usr/bin/sysdig-probe-loader命令装载内核模块，该命令也是一个shell脚本，执行时会从aws s3上下载一个ko模块文件。不过我在linux测试主机上下载多次都未成功。查看该脚本文件后，发现其调用下载的地址是：https://s3.amazonaws.com/download.draios.com/stable/sysdig-probe-binaries/sysdig-probe-0.6.0-x86_64-2.6.32-504.el6.x86_64-e065a96a1a7343d57e26548de23096e3.ko

注：该ko文件的URL不用记，执行该脚本时会有相应的提示“Trying to download precompiled module from” ，而且不同的内核版本下的对应ko文件也是不同的。我这里的内核版本是2.6.32-504.el6 。下载完成后会存放在~/.sysdig 目录。

完成后再执行sysdig-probe-loader命令就可以执行sysdig命令了，而且开机后不会自动加载，所以在不使用的情况下，该包是对主机无影响的。

1、网络

查看占用网络带宽最多的进程：

sysdig -c topprocs_net
显示主机192.168.0.1的网络传输数据：

as binary:
sysdig -s2000 -X -c echo_fds fd.cip=192.168.0.1
as ASCII:
sysdig -s2000 -A -c echo_fds fd.cip=192.168.0.1
这里显示网络传输功能，实际效果和tcpdump抓包是一样的。而且其本身也支持sysdig -w dump.scap抓包保存（可以配置-X或-A使用），抓好包也支持sysdir -r dump.scap读取。

查看连接最多的服务器端口：

in terms of established connections:
sysdig -c fdcount_by fd.sport "evt.type=accept"
in terms of total bytes:
sysdig -c fdbytes_by fd.sport
查看客户端连接最多的ip：

in terms of established connections
sysdig -c fdcount_by fd.cip "evt.type=accept"
in terms of total bytes
sysdig -c fdbytes_by fd.cip
列出所有不是访问apache服务的访问连接：

sysdig -p"%proc.name %fd.name" "evt.type=accept and proc.name!=httpd"
2、硬盘 I/O

查看使用硬盘带宽最多的进程：

sysdig -c topprocs_file
列出使用大量文件描述符的进程

sysdig -c fdcount_by proc.name "fd.type=file"
See the top files in terms of read+write bytes

sysdig -c topfiles_bytes
Print the top files that apache has been reading from or writing to

sysdig -c topfiles_bytes proc.name=httpd
Basic opensnoop: snoop file opens as they occur

sysdig -p "%12user.name %6proc.pid %12proc.name %3fd.num %fd.typechar %fd.name" evt.type=open
See the top directories in terms of R+W disk activity

sysdig -c fdbytes_by fd.directory "fd.type=file"
See the top files in terms of R+W disk activity in the /tmp directory

sysdig -c fdbytes_by fd.filename "fd.directory=/tmp/"
Observe the I/O activity on all the files named 'passwd'

sysdig -A -c echo_fds "fd.filename=passwd"
Display I/O activity by FD type

sysdig -c fdbytes_by fd.type

3、进程和CPU使用率

See the top processes in terms of CPU usage

sysdig -c topprocs_cpu
See the top processes for CPU 0

sysdig -c topprocs_cpu evt.cpu=0
Observe the standard output of a process

sysdig -s4096 -A -c stdout proc.name=cat

4、应用

查看机器所有的HTTP请求

 sudo sysdig -s 2000 -A -c echo_fds fd.port=80 and evt.buffer contains GET
查看机器所有的SQL select查询

 sudo sysdig -s 2000 -A -c echo_fds evt.buffer contains SELECT
See queries made via apache to an external MySQL server happening in real time

 sysdig -s 2000 -A -c echo_fds fd.sip=192.168.30.5 and proc.name=apache2 and evt.buffer contains SELECT
5、性能和错误

See the files where most time has been spent

sysdig -c topfiles_time
See the files where apache spent most time

sysdig -c topfiles_time proc.name=httpd
See the top processes in terms of I/O errors

sysdig -c topprocs_errors
See the top files in terms of I/O errors

sysdig -c topfiles_errors
See all the failed disk I/O calls

sysdig fd.type=file and evt.failed=true
See all the failed file opens by httpd

sysdig "proc.name=httpd and evt.type=open and evt.failed=true"
See the system calls where most time has been spent

sysdig -c topscalls_time
See the top system calls returning errors

sysdig -c topscalls "evt.failed=true"
snoop failed file opens as they occur

sysdig -p "%12user.name %6proc.pid %12proc.name %3fd.num %fd.typechar %fd.name" evt.type=open and evt.failed=true
Print the file I/O calls that have a latency greater than 1ms:

sysdig -c fileslower 1
6、安全

Show the directories that the user "root" visits

sysdig -p"%evt.arg.path" "evt.type=chdir and user.name=root"
Observe ssh activity

sysdig -A -c echo_fds fd.name=/dev/pretmx and proc.name=sshd
Show every file open that happens in /etc

sysdig evt.type=open and fd.name contains /etc
Show the ID of all the login shells that have launched the "tar" command

sysdig -r file.scap -c list_login_shells tar
Show all the commands executed by the login shell with the given ID

sysdig -r trace.scap.gz -c spy_users proc.loginshellid=5459
7、容器

查看机器上运行的容器列表及其资源使用情况

 sudo csysdig -vcontainers
查看容器上下文的进程列表

 sudo csysdig -pc
查看运行在wordpress1容器里CPU的使用率

 sudo sysdig -pc -c topprocs_cpu container.name=wordpress1
查看运行在wordpress1容器里网络带宽的使用率

 sudo sysdig -pc -c topprocs_net container.name=wordpress1
查看在wordpress1容器里使用网络带宽最多的进程

 sudo sysdig -pc -c topprocs_net container.name=wordpress1
查看在wordpress1 容器里占用 I/O 字节最多的文件

 sudo sysdig -pc -c topfiles_bytes container.name=wordpress1
查看在wordpress1 容器里网络连接的排名情况

 sudo sysdig -pc -c topconns container.name=wordpress1
显示wordpress1容器里所有命令执行的情况

 sudo sysdig -pc -c spy_users container.name=wordpress1
功能是不是很强大，不过记起来有点麻烦，可以在使用的时候使用sysdig -l 查看所支持的事件列表，使用sysdig -L 查看事件所支持的过滤列表。具体也可以参看官方guide文档。

三、csysdig交互式处理

感觉上面的方法还是比较麻烦怎么办？可以不可以交互式选择呢？当然没问题，在sysdig包里还提供了一个工具csysdig，该工具执行后，效果和top命令类似