ceph环境下 测试磁盘在写入时cache盘的占用情况
ceph环境下 测试磁盘在写入时cache盘的占用情况
[root@localhost ~]# lsblk
NAME MAJ:MIN RM SIZE RO TYPE MOUNTPOINT
sr0 11:0 1 1024M 0 rom
sdb 8:16 0 20G 0 disk
└─cachedev-0 (dm-4) 253:4 0 20G 0 dm /sandstone-data/sds-0
sda 8:0 0 50G 0 disk
├─sda1 8:1 0 500M 0 part /boot
└─sda2 8:2 0 49.5G 0 part
├─VolGroup-lv_root (dm-0) 253:0 0 45.6G 0 lvm /
└─VolGroup-lv_swap (dm-1) 253:1 0 3.9G 0 lvm [SWAP]
sdc 8:32 0 20G 0 disk
├─vg_mix-lv_journal_0_0 (dm-2) 253:2 0 8G 0 lvm
└─vg_mix-lv_cache_0_0 (dm-3) 253:3 0 12G 0 lvm
└─cachedev-0 (dm-4) 253:4 0 20G 0 dm /sandstone-data/sds-0
sdd 8:48 0 10G 0 disk
sde 8:64 0 10G 0 disk
sdf 8:80 0 10G 0 disk
[root@localhost ~]#
第一个shell:
[root@localhost ~]# dd if=/dev/zero of=/dev/sdd bs=1M count=1000
第二个shell:
[root@localhost ~]# iostat -dxt 1
Linux 2.6.32-358.11.1.2.ky3.1.x86_64 (localhost.localdomain) 2017年10月23日 _x86_64_(4 CPU)
2017年10月23日 18时27分31秒
Device: rrqm/s wrqm/s r/s w/s rsec/s wsec/s avgrq-sz avgqu-sz await svctm %util
sdb 0.01 5.12 0.05 1.59 0.47 53.67 33.11 0.03 19.76 7.90 1.29
sda 0.06 46.33 1.28 44.61 24.24 727.82 16.39 5.33 116.08 1.70 7.81
sdc 0.76 1.20 5.25 4.24 54.36 67.44 12.83 0.10 10.14 4.70 4.46
dm-0 0.00 0.00 0.22 90.94 13.70 727.82 8.13 7.03 77.15 0.84 7.65
dm-1 0.00 0.00 0.00 0.00 0.01 0.00 8.00 0.00 7.87 2.71 0.00
dm-2 0.00 0.00 0.19 1.87 1.51 38.52 19.47 0.03 14.93 8.38 1.72
dm-3 0.00 0.00 1.00 3.48 8.03 28.18 8.08 0.14 30.85 4.76 2.13
dm-4 0.00 0.00 0.08 8.54 0.67 68.34 8.00 1.72 199.06 3.18 2.74
sdd 0.00 1.35 0.00 0.01 0.01 10.33 894.49 0.08 6452.67 34.39 0.04
sde 0.00 0.00 0.00 0.00 0.01 0.00 8.00 0.00 2.74 2.74 0.00
sdf 0.00 0.00 0.00 0.00 0.01 0.00 8.00 0.00 2.74 2.74 0.00
2017年10月23日 18时27分32秒
Device: rrqm/s wrqm/s r/s w/s rsec/s wsec/s avgrq-sz avgqu-sz await svctm %util
sdb 0.00 595.00 0.00 13.00 0.00 7384.00 568.00 0.88 139.38 22.85 29.70
sda 0.00 12.00 10.00 1012.00 88.00 8152.00 8.06 144.63 93.69 0.98 100.00
sdc 0.00 69.00 5.00 16.00 544.00 7376.00 377.14 36.40 563.48 47.62 100.00
dm-0 0.00 0.00 2.00 1004.00 16.00 8032.00 8.00 147.08 95.42 0.99 100.00
dm-1 0.00 0.00 0.00 0.00 0.00 0.00 0.00 0.00 0.00 0.00 0.00
dm-2 0.00 0.00 0.00 19.00 0.00 8584.00 451.79 9.95 379.74 52.37 99.50
dm-3 0.00 0.00 2.00 69.00 16.00 552.00 8.00 927.73 2342.27 14.08 100.00
dm-4 0.00 0.00 2.00 606.00 16.00 4848.00 8.00 1195.77 439.58 1.64 100.00
sdd 0.00 3937.00 0.00 16.00 0.00 15368.00 960.50 143.73 5219.94 62.50 100.00
sde 0.00 0.00 0.00 0.00 0.00 0.00 0.00 0.00 0.00 0.00 0.00
sdf 0.00 0.00 0.00 0.00 0.00 0.00 0.00 0.00 0.00 0.00 0.00
该环境是ceph环境。sdc作为journal跟cache的缓存盘。
下面是虚拟磁盘的block等信息:
[root@localhost ~]# smartctl -a /dev/sdc
smartctl 5.43 2012-06-30 r3573 [x86_64-linux-2.6.32-358.11.1.2.ky3.1.x86_64] (local build)
Copyright (C) 2002-12 by Bruce Allen, http://smartmontools.sourceforge.net
Vendor: VMware
Product: Virtual disk
Revision: 1.0
User Capacity: 21,474,836,480 bytes [21.4 GB]
Logical block size: 512 bytes
Logical Unit id: 0x6000c29586aa7f7d928e86417eb5e2ff
Serial number: 6000c29586aa7f7d928e86417eb5e2ff
Device type: disk
Local Time is: Mon Oct 23 18:30:39 2017 CST
Device does not support SMART
Error Counter logging not supported
Device does not support Self Test logging