A lo mejor meto la gamba pero no sé si eso lo podrás hacer con un sistema operativo
instalado. Los sistemas operativos funcionan en modo protegido, es decir , tú no puedes
acceder directamente al hardware, sólo a través de las funciones que el SO te provee
para ello(APIs). Si el sistema operativo no te da las APIs para hacer eso que quieres
con tu hardware(modular en este caso) no puedes hacerlo. En el driver development
kit de microsoft vienen las herramientas y documentación que necesitas para poder
programar drivers y un ejemplo de cada caso pero en el caso de modems no sé si
el ejemplo es para programar un driver de un módem o para programar el driver de
un Winmodem(módem por software). En cualquier caso creo que necesitas un hardware que genere la señal(un módem o un módem por software, que usa un microcontrolador en placa o en una tarjeta).
Investiga el DDK para salir de dudas porque no lo sé a ciencia cierta.
Saludos