Kaarle saapui Unkarin kuningaskuntaan vaikutusvaltaisen kroatialaisen herran Paul Šubićin kutsusta elokuussa 1300. Andreas III kuoli (Viimeinen Árpád-dynastiasta) 14. tammikuuta 1301, ja neljän kuukauden kuluessa Kaarle kruunattiin kuninkaaksi, mutta hänellä oli väliaikainen kruunu Unkarin pyhän kruunun sijaan.Useimmat unkarilaiset aateliset kieltäytyivät antautumasta hänelle ja valitsivat Böömin Venceslauksen kuninkaaksi.Charles vetäytyi valtakunnan eteläisille alueille.Paavi Bonifatius VIII tunnusti Kaarlen lailliseksi kuninkaaksi vuonna 1303, mutta Kaarle ei kyennyt vahvistamaan asemaansa vastustajaansa vastaan.Charles voitti ensimmäisen ratkaisevan voittonsa Rozgonyn taistelussa (nykyisessä Rozhanovcessa Slovakiassa) 15. kesäkuuta 1312. Seuraavan vuosikymmenen aikana Kaarle palautti kuninkaallisen vallan pääasiassa prelaattien ja aatelisten avustuksella useimmilla valtakunnan alueilla. .Voimakkaimman oligarkin, Matthew Csákin, kuoleman jälkeen vuonna 1321 Kaarlesta tuli koko valtakunnan kiistaton hallitsija Kroatiaa lukuun ottamatta, jossa paikalliset aateliset pystyivät säilyttämään autonomisen asemansa.Hän ei kyennyt estämään Valakian kehittymistä itsenäiseksi ruhtinaskunnaksi tappionsa jälkeen Posadan taistelussa vuonna 1330.Charles jakoi harvoin ikuisia maa-apurahoja, vaan otti käyttöön "virkavaltuuksien" järjestelmän, jossa hänen virkailijansa saivat merkittäviä tuloja, mutta vain sen ajan, kun he hoitivat kuninkaallista virkaa, mikä varmisti heidän uskollisuutensa.Hallituksensa toisella puoliskolla Charles ei pitänyt valtiopäiviä ja hallitsi valtakuntaansa ehdottomalla vallalla.Hän perusti Pyhän Yrjön ritarikunnan, joka oli ensimmäinen maallinen ritarikunta.Hän edisti uusien kultakaivosten avaamista, mikä teki Unkarista Euroopan suurimman kullan tuottajan.Ensimmäiset unkarilaiset kultakolikot lyötiin hänen hallituskautensa aikana.Visegrádin kongressissa vuonna 1335 hän välitti sovinnon kahden naapurivallan, Johannes Böömilaisen ja puolalaisen Kasimir III:n välillä.Samassa kongressissa allekirjoitetut sopimukset vaikuttivat myös uusien kaupallisten reittien kehittämiseen Unkarin ja Länsi-Euroopan välillä.Charlesin pyrkimykset yhdistää Unkari sekä hallinnolliset ja taloudelliset uudistukset loivat perustan hänen seuraajansa Ludvig Suuren saavutuksille.