Nació el 21 de marzo de 1685 en el seno de una familia que durante siete generaciones dio 52 músicos de importancia, en Eisenach, Turingia (Alemania).Recibió sus primeras lecciones musicales de su padre, Johann Ambrosius. Cuando éste falleció, se fue a vivir y estudiar con su hermano mayor, Johann Christoph, por entonces organista de Ohrdruff. En 1700 comenzó a trabajar como miembro del coro de la iglesia de San Miguel, en Lüneburg. En 1703 pasó a ser violinista de la orquesta de cámara del príncipe Johann Ernst de Weimar, para pasar en ese mismo año a Arnstadt, donde se concvirtió en organista de iglesia. En 1703 pasó a ser violinista de la orquesta de cámara del príncipe Johann Ernst de Weimar, para pasar en ese mismo año a Arnstadt, donde se convirtió en organista de iglesia. A finales de 1705 consiguió un permiso para cursar estudios con Dietrich Buxtehude, organista y compositor danés afincado en Alemania. Entre ambos músicos se estableció un relación tan positiva que su estancia Lübeck se prolongó un mes más de lo acordado. Esto levantó críticas por parte de las autoridades eclesiásticas, que además se quejaban de las florituras y armonías con las que acompañaba a la congregación en sus cantos religiosos.Tras un año de la muerte de su mujer en 1720, se casó con Anna Magdalena Wilcken, cantante e hija de un músico de la corte que le dio trece hijos, además de los siete que había tenido con su anterior esposa. En 1723 se radica en Leipzig, ciudad donde vivió ya hasta su muerte.