Nació el 25 de agosto de 1744 en Mohrungen, un pueblo de la Prusia Oriental que hoy es Morąg, en Polonia. La entrada que le dedicó Rudolf Haym abre con una fórmula, entrecomillada ya por él, que se ha quedado: una medianía oscura, aunque no indigente. El padre era hijo de un pequeño propietario llegado de Silesia; dejó el oficio de tejedor para hacer de campanero, cantor y maestro de escuela elemental. La madre, Anna Elisabeth Pelz, era hija de un herrero de la localidad. Johann Gottfried fue el tercero de cinco hijos y, muerto pronto un hermano menor, el único varón que sobrevivió. Con diecisiete años servía como famulus en casa del diácono Sebastian Friedrich Trescho, copiando y despachando manuscritos ajenos sin perspectiva de salir de ahí. La salida llegó por accidente: en el invierno de 1761 a 1762 acuarteló en Mohrungen un regimiento ruso que volvía de la Guerra de los Siete Años, y su cirujano se ofreció a llevarlo a Königsberg y enseñarle cirugía a cambio de trabajo literario, con la promesa de una carrera en San Petersburgo. Herder aceptó, y una vez en la ciudad desbarató el plan de su protector: el 10 de agosto de 1762 se matriculó en Teología.
En Königsberg consiguió plaza en el Collegium Fridericianum y se pagó los estudios dando clase en su internado. Su profesor fue Kant, entonces todavía un joven Magister que enseñaba geografía física y metafísica precrítica y que lo remitió a Hume y a Rousseau. Casi al mismo tiempo trabó amistad con Johann Georg Hamann, catorce años mayor, que lo introdujo en el inglés y en Shakespeare. Duró allí poco más de dos años: el 22 de noviembre de 1764, con veinte, salió hacia Riga como colaborador de la escuela de la catedral. Riga era ciudad libre bajo soberanía rusa y le sentó bien; en su discurso de toma de posesión la describió como la que, a la sombra de Rusia, es casi Ginebra. A la plaza de maestro le añadieron una de pastor adjunto creada a medida para retenerlo cuando en abril de 1767 lo llamaron de San Petersburgo. Entró en la logia masónica de la ciudad y publicó de forma anónima sus primeros libros. Fue también donde se metió en un lío del que no supo salir: atacó en los Kritische Wälder al filólogo Christian Adolph Klotz creyendo que el anonimato lo protegía, y al ser descubierto negó dos veces en público la autoría, lo que dejó a sus adversarios el flanco entero. A primeros de mayo de 1769 pidió al consejo de la ciudad la licencia para viajar.
Se embarcó el 25 de mayo, calendario juliano, sin saber a dónde iba; lo escribió así en la primera línea de su diario. Pensaba desembarcar en Copenhague, cambió de idea a bordo, siguió cuatro semanas más de travesía y tocó tierra el 15 de julio en Paimbœuf, camino de Nantes. Allí pasó meses aprendiendo francés y redactando el Journal meiner Reise im Jahr 1769, un ajuste de cuentas consigo mismo que no publicó y en el que se reprocha haberse convertido en un tintero de erudición y en un repositorio de papeles que solo sirve para el cuarto de estudio. En noviembre siguió a París, donde trató a d'Alembert y a Diderot, y en diciembre aceptó un empleo de preceptor y capellán de viaje del heredero del príncipe obispo de Lübeck. El puesto salió mal desde el principio. Lo importante ocurrió en las escalas: en Darmstadt conoció en el verano de 1770 a Caroline Flachsland, a quien se declaró por carta el día que cumplía veintiséis años, y el 4 de septiembre llegó a Estrasburgo para que el cirujano Lobstein le operase un ojo enfermo. El tratamiento fue largo, doloroso y finalmente inútil, y lo tuvo encerrado en una habitación de enfermo hasta la primavera de 1771. A esa habitación subía casi a diario un estudiante de veintiún años llamado Goethe, que décadas después contaría en Poesía y verdad que todo lo que Herder desarrolló luego estaba ya apuntado en aquellas semanas. Y de esa misma habitación salió, escrita en pocas semanas a finales de 1770, la memoria sobre el origen del lenguaje con la que se presentó al premio de la Academia de Berlín.
De 1771 a 1776 fue predicador principal y consejero consistorial del conde Wilhelm zur Lippe en Bückeburg, una corte diminuta donde se sintió aislado. Se casó con Caroline Flachsland el 2 de mayo de 1773, con Goethe entre los invitados, y el matrimonio le devolvió la capacidad de trabajo: casi todo lo que había quedado en borradores empezó a cerrarse a partir de esa fecha. En 1775 estuvo a punto de obtener una cátedra de Teología en Gotinga y una facción contraria lo impidió. El 1 de octubre de 1776 llegó a Weimar como Generalsuperintendente del clero luterano del ducado, cargo que consiguió en buena medida por gestión de Goethe y que conservó los veintisiete años que le quedaban de vida. Conviene retener el dato, porque explica el ritmo de su obra: Herder fue funcionario eclesiástico a jornada completa, con púlpito, consistorio, exámenes de ordenandos e inspección de escuelas. Escribió la filosofía alrededor del horario de oficina.
Los últimos años fueron de distanciamiento. La filosofía de Kant se convirtió en el idioma común de Weimar y Jena, primero a través de Schiller y luego, por Schiller, del propio Goethe; Herder, que ya había chocado con Kant a propósito de la reseña que este hizo de sus Ideas, la consideró enemiga de la religión y de la formación, y la atacó de frente en dos libros: la Metacrítica de la Crítica de la razón pura, en 1799, y la Kalligone contra la Crítica del Juicio, en 1800. Goethe dijo del primero que, de haberlo sabido a tiempo, le habría pedido de rodillas a su viejo amigo que lo suprimiera. En el otoño de 1801 el elector de Baviera lo elevó a la nobleza, un trámite ligado a la finca que su hijo Adalbert tenía en Stachesried. El invierno de 1802 a 1803 lo dedicó a poner en alemán un Cid. Enfermó al volver de un viaje oficial a Jena en mayo de 1803, se recuperó en el balneario de Eger y pasó tres semanas felices en Dresde; regresó a Weimar el 18 de septiembre, sufrió a mediados de octubre un ataque fulminante que lo dejó en cama y murió el 18 de diciembre de 1803, tras dos meses de agonía. Está enterrado en la iglesia municipal de Weimar bajo tres palabras: luz, amor, vida.