Il avait épousé avant 987 Ermengarde. Cette Ermengarde passe pour être la fille du comte Renard de Bar-sur-Seine et se serait ensuite remarié à Miles IV, comte de Tonnerre. Si cette hypothèse était confirmé, le décès d'Herbert doit être antérieur à 998, date de la dernière mention de Miles.
Herbert et Ermengarde avaient eu :
Albert II († v. 1016), comte de Vermandois
Otton ou Eudes (v. 1000 † v. 1045), comte de Vermandois