Les terrains de la commune peuvent être classés, d’après leurs origines géologiques en quatre catégories :
- les sols dérivés des alluvions anciennes,
- les sols dérivés des alluvions modernes,
- les sols dérivés de la gaize,
- les sols dérivés des sables verts (dans la partie haute).
Au Nord de l’agglomération, on trouve des terres appartenant au groupe des limons et graviers anciens et en s’éloignant vers le Sud on trouve d’abord les sables verts, puis l’argile du Gault sur les pentes.
Dans la forêt, dans la partie Sud du territoire, ce sont des argiles ostréines et, au Nord du ruisseau « la Laume », il existe des grès et du minerai de fer géodique qui produit des dépôts de rouille dans l’eau provenant de la source thermale.
Le Canton de Thièblemont, dont Sermaize fait partie, abandonne à la forêt une grande part des 34.031 hectares de ses 33 communes. Les forêts de Pargny sur Saulx – Trois- fontaines, de Maurupt le montois (5.011 ha de charmes, de chênes, hêtres et bois blancs) y ombrent des collines et des ravins sur le crétacé supérieur de la Champagne. Au pied des coteaux où ces sylves montent et descendent, la vaste plaine du Perthois, qui s’étend aussi sur le département de la Haute Marne, déroule ses alluvions quaternaires où serpentent la Marne, la Saulx, l’Ornain, la Bruxenelle, et où le canal de la Marne au Rhin s’avance en longues lignes droites.
C’est là une terre à betteraves féconde, bien qu’argileuse, humide, riche en aulnes, en osiers, en peupliers dont les racines trempent dans l’eau.
Le climat de Sermaize, très humide, est dû à la présence, à proximité et sur son territoire, d’immenses forêts.
La superficie cadastrale du territoire communal est de 1.769 ha. En 1945, la répartition du sol se décomposait ainsi :
- Terre labourables : 169 ha
- Bois et forêts : 745 ha
- Vignes : 7 ha
- Prairies et bocages : 160 ha
- Jardins et cultures maraîchères : 10 ha
- Etangs et marécages : 310 ha
- Laudes et friches : 248 ha
- Partie bâtie : 46 ha
60 années plus tard, les vignes ont presque toutes disparues et la partie bâtie a considérablement augmenté.