问题描述
背景
我正在通过 Yocto 为某些供应商提供的嵌入式硬件提供 Linux 内核。我已将映像配置为通过带有 initramfs 且 无 rootfs 的 fitImage 启动(有持久存储,但这完全供用户空间应用程序使用)。想一想 PXE 实时图像,您就不会远了。
事情一直很顺利,直到我的 initramfs 图像超过了 ~128MB 标记。在此之下,一切都按预期启动,并且所有驱动程序都没有问题。在此标记之上,内核仍可启动,但许多驱动程序(尽管不是全部)并未绑定。这非常令人困惑,因为所有驱动程序都是静态构建到内核中的(该平台上没有使用任何模块)。不幸的是,其中一个模块运行平台看门狗,这会导致完全可预测的重启。
到目前为止,我已经验证了所有符号都存在于 vmlinux 映像中:
$ objdump -x vmlinux | grep mtk_wdt
0000000000000000 l df *ABS* 0000000000000000 mtk_wdt.c
ffffff800880ac40 l F .text 000000000000004c mtk_wdt_stop
ffffff800880ac90 l F .text 0000000000000040 mtk_wdt_shutdown
ffffff80091de778 l F .init.text 0000000000000020 mtk_wdt_driver_init
ffffff800880acd0 l F .text 000000000000004c mtk_wdt_ping
ffffff800880ad20 l F .text 0000000000000070 mtk_wdt_set_timeout
ffffff800880ad90 l F .text 0000000000000074 mtk_wdt_start
ffffff800880ae08 l F .text 0000000000000144 mtk_wdt_resume
ffffff800880af50 l F .text 0000000000000120 mtk_wdt_suspend
ffffff800880b070 l F .text 0000000000000080 mtk_wdt_remove
ffffff80088977a8 l F .text 0000000000000210 mtk_wdt_isr
ffffff80091fe0a0 l F .exit.text 000000000000001c mtk_wdt_driver_exit
ffffff800880b4f0 l F .text 0000000000000310 mtk_wdt_probe
ffffff8008c2acd8 l O .rodata 0000000000000028 mtk_wdt_info
ffffff8008c2ad00 l O .rodata 0000000000000050 mtk_wdt_ops
ffffff8008c2ad98 l O .rodata 00000000000000b8 mtk_wdt_pm_ops
ffffff8008c2ae50 l O .rodata 0000000000000190 mtk_wdt_dt_ids
ffffff80093a3cb8 l O .data 00000000000000b0 mtk_wdt_driver
ffffff800a199368 l O .bss 0000000000000008 mtk_wdt1
ffffff8009285598 l O .init.data 0000000000000008 __initcall_mtk_wdt_driver_init6
此外,在 fitImage 组装之前、fitImage 组装之后和解压到系统内存(通过引导加载程序)之后,我有二进制内核(例如 linux.bin)、initramfs 和设备树的 sha256 校验和;都匹配。据我所知,构建的内容就是解压和启动的内容。
此外,我启用了 initcall_debug
,虽然我看到了其他 __initcall(),但不出所料,未绑定的驱动程序丢失了。
我知道设备存在于设备树中并且配置正确。启动后,在看门狗启动之前,我获得了大约 5 秒的控制台访问权限;刚好有足够的时间得到一两个命令。在“工作”图像 (initramfs ~128MB) 上,/sys/bus/platform/devices
的内容是相同的,我可以看到(除其他外),我的看门狗:
$ ls -lha /sys/bus/platform/devices
...
lrwxrwxrwx 1 root root 0 Jan 1 00:00 10007000.watchdog -> ../../../devices/platform/10007000.watchdog
执行相同的测试但比较 /sys/bus/platform/devices
显示了未被 __initcall() 调用为缺失的驱动程序。
我检查过的其他一些集体事项:
- 设备树。工作图像和损坏图像都使用相同的 DTB。如上所述,我还验证了内存中的设备树。不使用设备树覆盖。
- 真实内存负载偏移。一切都在应有的地方,每个区域都有足够的空间。我可以在内存中移动内核,无论位置如何,问题仍然存在。
- 记性不好。这种故障在多个单元中同样发生。
- 压缩不良。无论内核/ initramfs 压缩如何,问题都会出现。目前我正在测试所有未压缩的东西,以尽量减少破损点。
- 签名错误。我已禁用签名验证(毕竟应用于 fitImage 分区映像);那里也没有骰子。
- 尝试将 initramfs 直接捆绑到内核中。没变化。现在,我将 initramfs 内置到 fitImage 中,但以其他方式独立加载和验证。
-
错误的内核命令行参数。我正在使用
root=/dev/ram initrd=0x48000000,384M
并一直跟踪到init/initramfs.c
完成解包。我能够验证传递的偏移量确实在正确的虚拟内存空间中,并且总和为 384M。 -
根据 this 论坛帖子更新内核链接器脚本。我可以看到通过 objdump 在 vmlinux 中生成的
.initramfs
部分,但问题仍然存在。
综上所述,我唯一不知道如何验证的是从vmlinux跳转到linux.bin。这是通过 objcopy 在 Yocto 中完成的,如下所示:
[ -n "${vmlinux_path}" ] && ${OBJCOPY} -O binary -R .note -R .comment -S "${vmlinux_path}" linux.bin
问题
- 如何验证给定的符号是否包含在最终的 linux.bin 中?
- 哪些机制会影响在构建时包含或排除给定符号?
- 内核构建和运行时的哪些部分受 initramfs 大小的影响?
- 是否有任何其他工具/技术/部落智慧可以帮助调试这种情况?
编辑 1:
以下是所有内容和空间利用率的基本内存映射。如上所述和评论中,我可以将内核、DTB 和 initramfs 重新定位到(几乎)任意位置,但问题仍然存在。
0x40000000 - 0x40001000 = Bootloader arg area (Fixed usage)
0x40080000 - 0x41EDFFFF = Kernel (~12MB / 29.5MB used)
0x41E00000 - 0x42FF5FFF = Trampoline (96 bytes / ~6MB used)
0x42FF6000 - 0x42FFFFFF = ATF BL3-1 (Fixed usage)
0x43000000 - 0x43FFFFFF = Trusted OS (~476K / 16M used)
0x44000000 - 0x44FFFFFF = DTB (~77.3K / 16M used)
0x45000000 - 0x47FFFFFF = Trusted OS memory (dynamic)
0x48000000 - 0x5FFFFFFF = Initramfs (~129MB / 384MB used)
0x60000000 - MEM END = Free
解决方法
所以,像大多数内核问题一样,真正的问题不在我认为的地方。事实证明,该问题是由 init 列表中较早的其他驱动程序之一导致内核挂起,从而阻止了看门狗驱动程序的注册。这如何受到 initramfs 的影响超出了我的范围,这是它自己的问题。
对于将来遇到此问题的任何人,下面列出了我上述具体问题的答案:
- 如何验证给定的符号是否包含在最终的 linux.bin 中?
我无法弄清楚如何静态地做到这一点。也就是说,我能够在运行时通过将 printk()
添加到 do_initcall_level
中的 init/main.c
来打印 init 函数的地址。然后可以将打印的地址与 vmlinux 上的 objdump 输出进行比较(有关咒语,请参阅我的问题)。
可以在 here 中找到对 initcall 过程的非常有用且深入的描述。
请注意,您还可以打开 initcall_debug
,它将打印每个函数名称。就我而言,我想要原始地址,这就是我选择 printk()
方法的原因。
- 哪些机制会影响在构建时包含或排除给定符号?
其中大部分归结为您的 .config。绝大多数包含/排除是通过预处理器完成的。其他有用的项目是 include/asm-generic/vmlinux.lds.h
处的链接器脚本通用标头和设备 arch/<arch>/*/*.lds
处的平台链接器脚本。
- 内核构建和运行时的哪些部分受 initramfs 大小的影响?
仍然不知道这个。
- 是否有任何其他工具/技术/部落智慧可以帮助调试这种情况?
不要惊慌