Hijo de don Rafael Hernández y de doña Isabel Pueyrredón, José Hernández nació el 10 de noviembre de 1834 en la chacra de su tío, Don Juan Martín de Pueyrredón, antiguo Caserío de Pedriel, hoy convertida en el Museo José Hernández (Partido de San Martín).
Este argentino nativo expresó diferentes talentos a lo largo de su vida: fue poeta, periodista, orador, comerciante, contador, taquígrafo, estanciero, soldado y político.
Comenzó a leer y escribir a los cuatro años y luego asistió al colegio de don Pedro Sánchez.
En 1843, cuando su madre falleció, su padre, que era capataz en la estancias de Rosas, lo llevó a vivir al campo por recomendación médica, ya que, a pesar de su juventud, se encontraba enfermo.
En el entorno campestre, José Hernández tomó contacto con gauchos e indios. Debido a su proximidad con ellos, tuvo la oportunidad de conocer sus costumbres, su mentalidad, su lenguaje y su cultura. Aprendió a quererlos, a admirarlos, a comprenderlos, y también, a entender sus dificultades en la vida cotidiana.
En marzo de 1857, poco después de fallecer su padre –quien fue fulminado por un rayo-, se instaló en la ciudad de Paraná. Allí, el 8 de junio de 1859, contrajo matrimonio con Carolina González del Solar. Tuvieron siete hijos.
Inició su labor periodística en el diario "El Nacional Argentino", con una serie de artículos en los que condenaba el asesinato de Vicente Peñaloza. En 1863 estos artículos fueron publicados como libro bajo el título "Rasgos biográficos del general Ángel Peñaloza".
En el orden legislativo se desempeñó como diputado, y luego, como senador de la provincia de Buenos Aires. Tomó parte activa con Dardo Rocha en la fundación de La Plata y, siendo presidente de la Cámara de Diputados, defendió el proyecto de federalización por el que Buenos Aires pasó a ser la capital del país.
En 1869 fundó el diario "El Río de la Plata", en cuyas columnas defendió a los gauchos y denunció los abusos cometidos por las autoridades de la campaña. También fundó el diario "El Eco" de Corrientes, cuyas instalaciones fueron destruidas por adversarios políticos. Colaboró además en los periódicos "La Reforma Pacífica", órgano del Partido Reformista, "El Argentino", de Paraná y "La Patria", de Montevideo.
En el orden militar actuó en San Gregorio, en El Tala e intervino en las batallas de Pavón y de Cepeda. Luchó además junto a López Jordán en Entre Ríos.
Debido a los continuos enfrentamientos civiles durante los años '50 y '60, se vio obligado a viajar y trasladó su residencia a menudo. Vivió en Brasil, en las provincias de Entre Ríos y Rosario de Argentina y en Montevideo (Uruguay). En 1870, al fracasar una revolución, tuvo que volver a Brasil. Dos años después, gracias a una amnistía que paró la violencia, pudo volver al país.
El 28 de noviembre de 1872, el diario "La República" anunció la salida de "El Gaucho Martín Fierro" y, en diciembre, lo editó la imprenta La Pampa.
Este poema de género gauchesco se convirtió en la pieza literaria del más genuino folclore argentino y fue traducido a numerosos idiomas.
El libro es considerado la culminación de la llamada "literatura gauchesca" y es una de las grandes obras de la literatura argentina. En él, Hernández rinde homenaje al gaucho, quien aparece en su ser, en su drama cotidiano, en su desamparo, en sus vicisitudes y con sus bravuras.
Su inesperado éxito entre los habitantes de la campaña lo llevó en 1879 a continuarlo con "La vuelta de Martín Fierro", edición ilustrada por Carlos Clérice.
En 1881, publicó su obra "Instrucción del Estanciero". El 21 de octubre de 1886 murió en su quinta de Belgrano. Sus últimas palabras fueron: "Buenos Aires... Buenos Aires...".