找回密码
 立即注册
Qt开源社区 门户 查看内容

Hexdump 如何工作 | Linux 中国

2019-9-5 06:31| 发布者: admin| 查看: 1294| 评论: 0

摘要: Hexdump 能帮助你查看二进制文件的内容。让我们来学习 Hexdump 如何工作。-- Seth KenlonHexdump 是个用十六进制、十进制、八进制数或 ASCII 码显示二进制文件内容的工具。它是个用于检查的工具,也可用于数据恢复、 ...

Hexdump 能帮助你查看二进制文件的内容。让我们来学习 Hexdump 如何工作。-- Seth Kenlon

Hexdump 是个用十六进制、十进制、八进制数或 ASCII 码显示二进制文件内容的工具。它是个用于检查的工具,也可用于数据恢复、逆向工程和编程。

学习基本用法

Hexdump 让你毫不费力地得到输出结果,依你所查看文件的尺寸,输出结果可能会非常多。本文中我们会创建一个 1x1 像素的 PNG 文件。你可以用图像处理应用如 GIMP 或 Mtpaint 来创建该文件,或者也可以在终端内用 ImageMagick 创建。

用 ImagiMagick 生成 1x1 像素 PNG 文件的命令如下:
  1. $ convert -size1x1 canvas:black pixel.png

你可以用 file 命令确认此文件是 PNG 格式:
  1. $ file pixel.png
  2. pixel.png: PNG image data,1 x 1,1-bit grayscale, non-interlaced

你可能好奇 file 命令是如何判断文件是什么类型。巧的是,那正是 hexdump 将要揭示的原理。眼下你可以用你常用的图像查看软件来看看你的单一像素图片(它看上去就像这样:.),或者你可以用 hexdump 查看文件内部:
  1. $ hexdump pixel.png
  2. 00000005089474e0a0d0a1a00000d0048495244
  3. 00000100000010000000100000100003700 f96e
  4. 00000200024000067044d410041 b100 0b8f61fc
  5. 00000300005000063205248004d7a0000268000
  6. 00000400084 fa00 0000800000e875000030 ea00
  7. 000005000603a00009817009c7051ba003c0000
  8. 00000606202474b0044 dd01 138a00a400007407
  9. 00000704d49074507e3081a3539 a487 46b00000
  10. 00000800a0044495441 d708 6063000002000100
  11. 000009021e233bc000025004574745861646574
  12. 00000a0633a65727461006530323931302d2d37
  13. 00000b0353232543a303735353a2b333231303a
  14. 00000c0 ac30 5dcd00c100007425584564747461
  15. 00000d03a656f6d69647966320031302d393730
  16. 00000e0322d54353032353a3a373335312b3a32
  17. 00000f0303090dd7de5000000004549444e42ae
  18. 00001008260
  19. 0000102

透过一个你以前可能从未用过的视角,你所见的是该示例 PNG 文件的内容。它和你在图像查看软件中看到的是完全一样的数据,只是用一种你或许不熟悉的方式编码。

提取熟悉的字符串

尽管默认的数据输出结果看上去毫无意义,那并不意味着其中没有有价值的信息。你可以用 --canonical 选项将输出结果,或至少是其中可翻译的部分,翻译成更加熟悉的字符集:
  1. $ hexdump--canonical foo.png
  2. 0000000089504e470d0a1a0a0000000d49484452|.PNG........IHDR|
  3. 0000001000000001000000010100000000376e f9 |.............7n.|
  4. 00000020240000000467414d410000 b1 8f0b fc 61|$....gAMA......a|
  5. 0000003005000000206348524d00007a26000080|.... cHRM..z&...|
  6. 00000040840000 fa 00000080 e8 000075300000 ea |...........u0...|
  7. 000000506000003a98000017709c ba 513c000000|`..:....p..Q<...|
  8. 00000060 02 62 4b 47 44 00 01 dd 8a 13 a4 00 00 00 07 74 |.bKGD..........t|
  9. 00000070 49 4d 45 07 e3 07 1a 08 39 35 87 a4 b0 46 00 00 |IME.....95...F..|
  10. 00000080 00 0a 49 44 41 54 08 d7 63 60 00 00 00 02 00 01 |..IDAT..c`......|
  11. 00000090 e2 21 bc 33000000257445587464617465|.!.3...%tEXtdate|
  12. 000000a03a63726561746500323031392d30372d|:create.2019-07-|
  13. 000000b032355432303a35373a35332b31323a30|25T20:57:53+12:0|
  14. 000000c030 ac cd5d c1 0000002574455874646174|0..]....%tEXtdat|
  15. 000000d0653a6d6f6469667900323031392d3037|e:modify.2019-07|
  16. 000000e02d32355432303a35373a35332b31323a|-25T20:57:53+12:|
  17. 000000f03030dd90 e5 7d0000000049454e44 ae 42|00...}....IEND.B|
  18. 000001006082|`.|
  19. 00000102

在右侧的列中,你看到的是和左侧一样的数据,但是以 ASCII 码展现的。如果你仔细看,你可以从中挑选出一些有用的信息,如文件格式(PNG)以及文件创建、修改日期和时间(向文件底部寻找一下)。

file 命令通过头 8 个字节获取文件类型。程序员会参考 libpng 规范 来知晓需要查看什么。具体而言,那就是你能在该图像文件的头 8 个字节中看到的字符串 PNG。这个事实显而易见,因为它揭示了 file 命令是如何知道要报告的文件类型。

你也可以控制 hexdump 显示多少字节,这在处理大于一个像素的文件时很实用:
  1. $ hexdump--length 8 pixel.png
  2. 00000005089474e0a0d0a1a
  3. 0000008

hexdump 不只限于查看 PNG 或图像文件。你也可以用 hexdump 查看你日常使用的二进制文件,如 lsrsync,或你想检查的任何二进制文件。

用 hexdump 实现 cat 命令

阅读 PNG 规范的时候你可能会注意到头 8 个字节中的数据与 hexdump 提供的结果看上去不一样。实际上,那是一样的数据,但以一种不同的转换方式展现出来。所以 hexdump 的输出是正确的,但取决于你在寻找的信息,其输出结果对你而言不总是直接了当的。出于这个原因,hexdump 有一些选项可供用于定义格式和转化其转储的原始数据。

转换选项可以很复杂,所以用无关紧要的东西练习会比较实用。下面这个简易的介绍,通过重新实现 cat 命令来演示如何格式化 hexdump 的输出。首先,对一个文本文件运行 hexdump 来查看其原始数据。通常你可以在硬盘上某处找到 GNU 通用许可证GNU General Public License(GPL)的一份拷贝,也可以用你手头的任何文本文件。你的输出结果可能不同,但下面是如何在你的系统中找到一份 GPL(或至少其部分)的拷贝:
  1. $ find/usr/share/doc/-type f -name "COPYING"|tail-1
  2. /usr/share/doc/libblkid-devel/COPYING

对其运行 hexdump
  1. $ hexdump/usr/share/doc/libblkid-devel/COPYING
  2. 0000000685473696c2062696172797269202073
  3. 0000010726665657320666f777472613b657920
  4. 0000020756f63206e6172206465736972746269
  5. 00000307475206574696120646e6f2f0a726f6d
  6. 000004069647966692020746e75656420726874
  7. 0000050206565746d722073666f742065684720
  8. 0000060554e4c207365657320726547656e6172
  9. 0000070206c75506c6263694c0a63696e656573
  10. 00000806120207375706c627369656820647962
  11. [...]

如果该文件输出结果很长,用 --length(或短选项 -n)来控制输出长度使其易于管理。

原始数据对你而言可能没什么意义,但你已经知道如何将其转换为 ASCII 码:
  1. hexdump--canonical /usr/share/doc/libblkid-devel/COPYING
  2. 00000000  54686973206c6962  7261727920697320  |This library is|
  3. 00000010  6672656520736f66  74776172653b2079  |free software; y|
  4. 00000020  6f752063616e2072  6564697374726962  |ou can redistrib|
  5. 00000030  7574652069742061  6e642f6f720a6d6f  |ute it and/or.mo|
  6. 00000040  6469667920697420  756e646572207468  |dify it under th|
  7. 00000050  65207465726d7320  6f66207468652047  |e terms of the G|
  8. 00000060  4e55204c65737365  722047656e657261  |NU LesserGenera|
  9. 00000070  6c205075626c6963  0a4c6963656e7365  |l Public.License|
  10. [...]

这个输出结果有帮助但太累赘且难于阅读。要将 hexdump 的输出结果转换为其选项不支持的其他格式,可组合使用 --format(或 -e)和专门的格式代码。用来自定义格式的代码和 printf 命令使用的类似,所以如果你熟悉 printf 语句,你可能会觉得 hexdump 自定义格式不难学会。

在 hexdump 中,字符串 %_p 告诉 hexdump 用你系统的默认字符集输出字符。--format 选项的所有格式符号必须以单引号包括起来:
  1. $ hexdump-e'"%_p"'/usr/share/doc/libblkid-devel/COPYING
  2. This library is fre*
  3. software; you can redistribute it and/or.modify it under the terms of the GNU Les*
  4. er GeneralPublic.Licenseas published by the Fre*
  5. SoftwareFoundation; either.version 2.1 of the License,or(at your option) any later.version..*
  6. The complete text of the license is available in the..*
  7. /Documentation/licenses/COPYING.LGPL-2.1-or-later file..

这次的输出好些了,但依然不方便阅读。传统上 UNIX 文本文件假定 80 个字符的输出宽度(因为很久以前显示器一行只能显示 80 个字符)。

尽管这个输出结果未被自定义格式限制输出宽度,你可以用附加选项强制 hexdump 一次处理 80 字节。具体而言,通过 80 除以 1 这种形式,你可以告诉 hexdump 将 80 字节作为一个单元对待:
  1. $ hexdump-e'80/1 "%_p"'/usr/share/doc/libblkid-devel/COPYING
  2. This library is free software; you can redistribute it and/or.modify it under the terms of the GNU LesserGeneralPublic.Licenseas published by the FreeSoftwareFoundation; either.version 2.1 of the License,or(at your option) any later.version...The complete text of the license is available in the.../Documentation/licenses/COPYING.LGPL-2.1-or-later file..

现在该文件被分割成 80 字节的块处理,但没有任何换行。你可以用 \n 字符自行添加换行,在 UNIX 中它代表换行:
  1. $ hexdump-e'80/1 "%_p""\n"'
  2. This library is free software; you can redistribute it and/or.modify it under th
  3. e terms of the GNU LesserGeneralPublic.Licenseas published by the FreeSoftwa
  4. re Foundation; either.version 2.1 of the License,or(at your option) any later.
  5. version...The complete text of the license is available in the.../Documentation/
  6. licenses/COPYING.LGPL-2.1-or-later file..

现在你已经(大致上)用 hexdump 自定义格式实现了 cat 命令。

控制输出结果

实际上自定义格式是让 hexdump 变得有用的方法。现在你已经(至少是原则上)熟悉 hexdump 自定义格式,你可以让 hexdump -n 8 的输出结果跟 libpng 官方规范中描述的 PNG 文件头相匹配了。

首先,你知道你希望 hexdump 以 8 字节的块来处理 PNG 文件。此外,你可能通过识别这些整数从而知道 PNG 格式规范是以十进制数表述的,根据 hexdump 文档,十进制用 %d 来表示:
  1. $ hexdump-n8 -e'8/1 "%d""\n"' pixel.png
  2. 13780787113102610

你可以在每个整数后面加个空格使输出结果变得完美:
  1. $ hexdump-n8 -e'8/1 "%d ""\n"' pixel.png
  2. 13780787113102610

现在输出结果跟 PNG 规范完美匹配了。

好玩又有用

Hexdump 是个迷人的工具,不仅让你更多地领会计算机如何处理和转换信息,而且让你了解文件格式和编译的二进制文件如何工作。日常工作时你可以随机地试着对不同文件运行 hexdump。你永远不知道你会发现什么样的信息,或是什么时候具有这种洞察力会很实用。


via: https://opensource.com/article/19/8/dig-binary-files-hexdump

作者:Seth Kenlon 选题:lujun9972 译者:0x996 校对:wxy

本文由 LCTT 原创编译,Linux中国 荣誉推出



鲜花

握手

雷人

路过

鸡蛋

公告
可以关注我们的微信公众号yafeilinux_friends获取最新动态,或者加入QQ会员群进行交流:190741849、186601429(已满) 我知道了