Після поразки в битві при Стіклестаді Гаральду вдалося втекти за допомогою Рогнвальда Брусасона (пізніше графа Оркнейського) на віддалену ферму в Східній Норвегії.Він залишився там деякий час, щоб залікувати свої рани, а потім (можливо, через місяць) вирушив на північ через гори до Швеції.Через рік після битви при Стіклестаді Гаральд прибув до
Київської Русі (у сагах згадується як Garðaríki або Svíþjóð hin mikla).Ймовірно, він провів принаймні частину свого часу в місті Стара Ладога (Альдейгюборг), прибувши туди в першій половині 1031 року. Гаральда та його людей зустрів великий князь Ярослав Мудрий, чия дружина Інґегерда була далекою родичкою Гаральда. .Вкрай потребуючи воєначальників, Ярослав визнав у Гаральді військовий потенціал і призначив його командиром своїх військ.Брат Харальда Олаф Харальдсон раніше перебував у вигнанні до Ярослава після повстання 1028 року, і Моркінскінна каже, що Ярослав прийняв Гаральда насамперед тому, що він був братом Олафа.Гаральд брав участь у поході Ярослава проти поляків у 1031 році, і, можливо, також воював проти інших київських ворогів і суперників 1030-х років, таких як чуда в Естонії,
візантійці , а також печеніги та інші степові кочівники.