En enero de 1875 asumió la prefectura del Cuzco, cargo en el que lo sorprendió el inicio de la guerra con Chile (abril de 1879). Al frente de su batallón fue destacado a la segunda división en el extremo sur del país. Participó en las batallas de San Francisco (19 de noviembre de 1879) y Tarapacá (27 de noviembre de 1879), donde su arriesgada arremetida permitió la victoria peruana. Luego fue enviado a vigilar las costas de Tacna e Ilo, hasta participar en la batalla del Alto de la Alianza (26 de mayo de 1880) para definir la futura situación de Tacna que, finalmente, quedó en mano enemigo. Al llegar a Lima fue nombrado comandante general de la quinta división del ejército del Centro y pasó a Huaral a dirigir las prácticas de los reservistas. Participó en las batallas de San Juan (13 de enero de 1881) y de Miradores (15 de enero de 1881) que significaron derrotas peruanas y la posterior ocupación de la capital por las tropas chilenas. Cabe mencionar que durante estos enfrentamientos cayó herido y solicitó atención médica en el puesto ambulatorio instalado en el claustro de San Carlos; pasó luego al convento de San Pedro de los jesuítas para evadir al enemigo hasta que fue nombrado jefe político y militar de los departamentos del centro, estableciendo su cuartel militar en Matucana (26 de abril de 1881). Desde allí propició una incesante campaña de hostigamiento al invasor, fue promovido a la alta clase de general (agosto de 1881) y declinó la presidencia de la nación respaldando el nombramiento de Francisco García Calderón como presidente del gobierno de la Magdalena y la autoridad del vicepresidente Lizardo Montero. Paralelamente organiza en la sierra central la llamada campaña de la Breña, convirtiéndose en el héroe de la Resistencia y llegando a ser conocido como el “Brujo de los Andes”. En la batalla de Pucará (5 de febrero de 1882) sale al encuentro de los invasores y logra su primera gran victoria; los chilenos, entonces, suben a a cordillera con ánimo vengador y se posesionan de la ciudad de Huancayo, siendo obligados a abandonar a ante las victorias caceristas en Marcavalle y Pucara II. Entre tanto, por encargo de Andrés Avelino Cáceres, Juan Gastó vence en Concepción (9 de julio de 1882). La última gran batalla se produce en Huamachuco (10 de julio de 1883) donde es capturado Leoncio Prado, quien sería luego fusilado en su lecho por orden de los oficiales chilenos (15 de julio). A pesar de esta derrota, Cáceres pensaba que era posible vencer y expulsar al enemigo si se le obligaba a luchar en la cordillera, territorio no dominado por el adversario. Por ello se opuso al pronunciamiento de Miguel Iglesias para firmar la paz bajo cualquier condición y nunca aceptó los términos del tratado de Ancón (20 de octubre de 1883) que puso fin, formalmente, a la guerra del Pacífico.