Omstreeks 1108 trouwde Floris II met Geertruida van Saksen, dochter van Diederik II van Lotharingen, de hertog van Opper-Lotharingen en een halfzus van de Rooms-Duitse koning Lotharius III van Supplinburg. Geertruida veranderde haar naam waarschijnlijk bij haar huwelijk in Petronilla. Hiermee wilde ze vermoedelijk uiting geven aan haar verbondenheid met Petrus en de paus.
Floris en Petronella kregen de volgende vier kinderen:
Dirk
Floris de Zwarte
Simon, kanunnik te Utrecht
Hedwig (ovl. 1132), non
Floris zou ook nog een buitenechtelijke dochter Hadewijch Florisdr hebben gehad. Hadewijch trouwde met Hugo III van Voorne.