Geboren wurde Johannes Dieckmann in Fischerhude (Bremen) als Sohn eines Pfarrers. Er studierte in Berlin, Gießen, Göttingen und Freiburg Nationalökonomie u. Philologie. Aus dem Militärdienst wurde er zunächst als »unzuverlässig u. untauglich« entlassen, nach erneuter  Einberufung war er 1918 Vorsitzender eines Soldatenrats, später General-sekretär der Deutschen Volkspartei und enger Mitarbeiter von Gustav Stresemann, 1929 - 1933 Abgeordneter des Sächsischen Landtags.
Johannes Dieckmann zählte zu den Mitbegründern der späteren LDPD und war ab 1946 Mitglied des Zentralvorstandes. Er ist Gründer des Verlags Sächsisches Tageblatt. Politisch aktiv hatte er zahlreiche Funktionen inne, so von 1948-1950 als Minister für Justiz und stellvertretender Minister-Präsident des Landes Sachsen, seit 1948 Vor-sitzender des Veteranenfonds der Volkssolidarität, ab 1949 stellvertretender Vorsitzender der LDPD und ab 1963 Präsident der Gesellschaft für Deutsch-Sowjetische Freundschaft. 1953 wurde ihm der Titel Dr. jur. h. c. der Universität Leipzig zuerkannt. Mit Gründung der DDR war Johannes Dieckmann Präsident der Volkskammer, ab 1960 einer der stellver-tretenden Vorsitzenden des Staatsrats. Im gleichen Jahr wurde er für die Pirckheimer-Gesellschaft gewonnen und zum Ehrenmitglied benannt.