Thuis teruggekeerd uit Jeruzalem huwde hij met Aleid of Adelheid van Heusden (1060-1145), een dochter van Jan II van Heusden. Zijn vrouw was mogelijk al weduwe uit een vorig huwelijk, omdat er een groot leeftijdsverschil was. Samen kregen ze de volgende kinderen:
Jan IV van Arkel, die Jan III opvolgde
Folpert van Arkel, oprichter van het huis van der Lede.