Na de nederlaag in de Slag om Stiklestad wist Harald te ontsnappen met de hulp van Rögnvald Brusason (later graaf van Orkney) naar een afgelegen boerderij in Oost-Noorwegen.Hij bleef daar enige tijd om zijn wonden te genezen en reisde daarna (mogelijk tot een maand later) noordwaarts over de bergen naar Zweden.Een jaar na de slag om Stiklestad arriveerde Harald in het
Kievse Rijk (in de sagen Garðaríki of Svíþjóð hin mikla genoemd).Hij bracht waarschijnlijk ten minste een deel van zijn tijd door in de stad Staraya Ladoga (Aldeigjuborg) en arriveerde daar in de eerste helft van 1031. Harald en zijn mannen werden verwelkomd door grootprins Yaroslav de Wijze, wiens vrouw Ingegerd een ver familielid was van Harald. .Yaroslav had dringend behoefte aan militaire leiders en herkende een militair potentieel in Harald en maakte hem tot kapitein van zijn strijdkrachten.Haralds broer Olaf Haraldsson was eerder in ballingschap geweest naar Yaroslav na de opstand in 1028, en Morkinskinna zegt dat Yaroslav Harald in de eerste plaats omhelsde omdat hij de broer van Olaf was.Harald nam deel aan de campagne van Yaroslav tegen de Polen in 1031, en vocht mogelijk ook tegen andere Kievse vijanden en rivalen uit de jaren 1030, zoals de Chudes in Estland, de
Byzantijnen , evenals de Pechenegs en andere steppenomaden.