Básicamente es así, todos los formatos y todos los programas tienen unos límites establecidos y por más que se quiera no se puede comprimir más; cuanto más pequeño es el archivo menos parece que comprime aunque el porcentaje será siempre el mismo.
De todas formas todo esto es bastante ambiguo, lo mejor igual es que pruebes un par de programas y algoritmos y saques conclusiones.
Acabo de hacer una prueba con Izarc, un PDF de un BOE de 1,02 MB comprimiendo seleccionando "La mejor" me ha dado un zip de 412Kb y un rar de 148KB; pero en cambio selecciono normal (es la tercera opción de cinco, la mejor es la quinta) y el rar sale igual mientras que el zip sale 418Kb; como ves hay una sustancial diferencia y el programa es el mismo.
Igual estás pensando que a mi me ha comprimido mucho en porcentaje y a tí muy poco, pero por si las dudas he probado otro PDF de 140 y en rar me lo comprime a 132, que se parece bastante más a lo que a tí te ha pasado; así que otra cosa que igual no estamos teniendo en cuenta es que aunque sean PDF's de texto puede influir la forma en que han sido creados.