Le droit de gracier des condamnés appartient aux commandants militaires allemands, comme le général von Falkenhausen en Belgique. Dès la confirmation de la sentence, ils peuvent décider d'alléger la peine s'il y a suffisamment de raisons, selon « leur appréciation en âme et conscience ». Seules la peine capitale et la peine de réclusion échappent à ce Milderungsrecht. Pour que ces peines soient allégées après le jugement, il faut une demande de grâce introduite par un tiers. Quant aux autres peines, la règle veut que les commandants militaires puissent seulement les ramener au niveau normal des peines applicables aux formes les moins graves du délit commis.
Pendant l'exécution de la peine, les condamnés, leur famille, des avocats ou des connaissances ont la possibilité d'introduire une demande de grâce. Le commandant militaire compétent s'informe ensuite auprès de la direction de la prison, en sa qualité de chef du conseil de guerre (Gerichtsherr), sur le comportement et l'ardeur au travail du condamné. Il décide, sur la base de ces renseignements, si le prisonnier peut ou non faire l'objet d'une mesure d'allègement de peine.
Dans les cas de privation de liberté, les Gerichtsherren accèdent régulièrement à la demande lorsque le détenu a accompli les deux tiers de sa peine et peut prouver qu'il effectue sans rechigner les travaux auxquels il est forcé.
Pour un prisonnier condamné à une peine de privation de liberté, l'octroi de la grâce implique souvent une réduction de la durée de la peine. Généralement, le Gerichtsherr ordonne une suspension de la peine jusqu'à la fin de la guerre, ce qui entraîne en pratique la libération conditionnelle du condamné.
Roden, Dimitri. “"In Naam van Het Duitse Volk!” Het Duitse Krijgsgerecht En de Openbare Orde in Bezet België (1940-1944).” Ph.D. Thesis, Universiteit Gent, 2015.
Roden, Dimitri. “Van Aanhouding Tot Strafuitvoering. De Werking van Het Duitse Gerechtelijke Apparaat in Bezet België En Noord‑Frankrijk (1940-1944).” Cahiers d’Histoire Du Temps Présent/Bijdragen Tot de Eigentijdse Geschiedenis 22 (2010): 113–60.