Karlo je došao u Ugarsko Kraljevstvo na poziv utjecajnog hrvatskog gospodara Pavla Šubića u kolovozu 1300. Andrija III je umro (posljednji iz dinastije Árpád) 14. siječnja 1301., au roku od četiri mjeseca Karlo je okrunjen za kralja, ali s privremena kruna umjesto Svete krune Ugarske.Većina mađarskih plemića odbila mu se pokoriti i izabrala je Vjenceslava Češkog za kralja.Karlo se povukao u južne krajeve kraljevstva.Papa Bonifacije VIII priznao je Karla kao zakonitog kralja 1303. godine, ali Karlo nije uspio ojačati svoj položaj protiv svog protivnika.Karlo je 15. lipnja 1312. izvojevao svoju prvu odlučujuću pobjedu u bitci kod Rozgonya (kod današnjeg Rozhanovca u Slovačkoj). Tijekom sljedećeg desetljeća Karlo je obnovio kraljevsku vlast prvenstveno uz pomoć prelata i nižeg plemstva u većini regija kraljevstva .Nakon smrti najmoćnijeg oligarha, Mateja Csáka, 1321. godine, Karlo postaje neprikosnoveni vladar cijeloga kraljevstva, s izuzetkom Hrvatske u kojoj su lokalni plemići uspjeli sačuvati svoj autonomni status.Nije uspio spriječiti razvoj Vlaške u neovisnu kneževinu nakon poraza u bitci kod Posade 1330. godine.Karlo je rijetko davao trajne zemljišne darove, umjesto toga uveo je sustav "uredskih feuda", pri čemu su njegovi službenici uživali značajne prihode, ali samo za vrijeme dok su bili na kraljevskoj dužnosti, što je osiguravalo njihovu lojalnost.U drugoj polovici svoje vladavine Karlo nije držao sabore i upravljao je svojim kraljevstvom s apsolutnom vlašću.Utemeljio je Red svetog Jurja, prvi svjetovni viteški red.Poticao je otvaranje novih rudnika zlata, čime je Mađarska postala najveći proizvođač zlata u Europi.Za njegove vladavine kovani su prvi mađarski zlatnici.Na kongresu u Višegradu 1335. posredovao je u pomirenju između dva susjedna monarha, Ivana od Češke i Kazimira III od Poljske.Ugovori potpisani na istom kongresu također su pridonijeli razvoju novih trgovačkih putova koji povezuju Mađarsku sa Zapadnom Europom.Karlovi napori da ponovno ujedini Mađarsku, zajedno s njegovim upravnim i gospodarskim reformama, postavili su osnovu za postignuća njegova nasljednika, Ludovika Velikog.