Fin de la instalación y seguimos igual. Me deja llegar algo más adelante arrancando desde la llave usb que utilicé al principio. Aparece el siguiente menú:
Debian GNU/Linux, kernel 2.6.26-1-686
Debian GNU/Linux, kernel 2.6.26-1-686 (single-user mode)
y me da la opción de editar los comandos antes de arrancar o de abrir una línea de comandos de grub.
Dando a la opción de editar, aparece el siguiente:
root (hd1,0)
kernel /boot/vmlinuz-2.6.26-1-686 root=/dev/sdb1 ro (en single-user single en lugar de ro)
initrd /bootinitrd.img-2.6.26-1-686
Accediendo a la línea de comandos de grub tecleo boot y me dice que el kernel se debe cargar antes del arranque. Y ahí es donde me quedo yo con cara de gilipollas

Ah!, se me olvidaba comentar que si escojo cualquiera de las dos primeras opciones me salen estos errores:
mount: mounting /dev/sdb1 on /root failed: No such device
Begin: Running /scripts/init-bottom ... mount: mounting /dev on /root/dev failed: No such file or directory
mount: mounting /sys on /root/sys failed: No such file or directory
mount: mounting /proc on /root/proc failed: No such file or directory
Target filesystem doesn't have /sbin/init
No init found. Try passing init= bootarg.
BusyBox v1.10.2 (Debian 1:1.10.2-2) built-in shell (ash)
/bin/sh: can't access tty; job control turned off
(initramfs)
Con dos cojones O_o