Creo que tu problema es claro, no se trata de abrir o cerrar puertos sino de configuración de red, lo cual puede tener varias causales desde un cable mal conectado, cable mal preparado, tarjeta de red, drivers, configuración del servidor, grupo de trabajo, direccion ip mal configurada, router, switch, etc, etc.
Antes que nada debes verificar el estado de tus tarjetas de red, que tengan sus drivers bien instalados, y que puedas establecer una conexion directa de pc a pc luego de ello ya puedes pensar en instalar el server