Ο Κάρολος ήρθε στο Βασίλειο της Ουγγαρίας μετά από πρόσκληση ενός σημαντικού Κροάτη λόρδου, του Paul Šubić, τον Αύγουστο του 1300. Ο Ανδρέας Γ' πέθανε (ο τελευταίος της δυναστείας Árpád) στις 14 Ιανουαρίου 1301 και μέσα σε τέσσερις μήνες ο Κάρολος στέφθηκε βασιλιάς, αλλά με προσωρινό στέμμα αντί για το ιερό στέμμα της Ουγγαρίας.Οι περισσότεροι Ούγγροι ευγενείς αρνήθηκαν να υποχωρήσουν σε αυτόν και εξέλεξαν βασιλιά τον Βεντσλάβο της Βοημίας.Ο Κάρολος αποσύρθηκε στις νότιες περιοχές του βασιλείου.Ο Πάπας Βονιφάτιος Η' αναγνώρισε τον Κάρολο ως νόμιμο βασιλιά το 1303, αλλά ο Κάρολος δεν μπόρεσε να ενισχύσει τη θέση του έναντι του αντιπάλου του.Ο Κάρολος κέρδισε την πρώτη του αποφασιστική νίκη στη μάχη του Rozgony (τη σημερινή Rozhanovce στη Σλοβακία) στις 15 Ιουνίου 1312. Κατά τη διάρκεια της επόμενης δεκαετίας, ο Κάρολος αποκατέστησε τη βασιλική εξουσία κυρίως με τη βοήθεια των ιερέων και των κατώτερων ευγενών στις περισσότερες περιοχές του βασιλείου .Μετά τον θάνατο του πιο ισχυρού ολιγάρχη, του Matthew Csák, το 1321, ο Κάρολος έγινε ο αδιαμφισβήτητος κυρίαρχος ολόκληρου του βασιλείου, με εξαίρεση την Κροατία όπου οι τοπικοί ευγενείς μπόρεσαν να διατηρήσουν την αυτόνομη ιδιότητά τους.Δεν μπόρεσε να εμποδίσει την ανάπτυξη της Βλαχίας σε ανεξάρτητο πριγκιπάτο μετά την ήττα του στη μάχη της Ποσάντα το 1330.Ο Κάρολος σπάνια έκανε αιώνιες επιχορηγήσεις γης, αντίθετα εισήγαγε ένα σύστημα «φέουδων γραφείων», σύμφωνα με το οποίο οι αξιωματούχοι του απολάμβαναν σημαντικά έσοδα, αλλά μόνο για το διάστημα που κατείχαν ένα βασιλικό αξίωμα, το οποίο εξασφάλιζε την πίστη τους.Στο δεύτερο μισό της βασιλείας του, ο Κάρολος δεν κράτησε Δίαιτες και διοικούσε το βασίλειό του με απόλυτη εξουσία.Καθιέρωσε το Τάγμα του Αγίου Γεωργίου, το οποίο ήταν το πρώτο κοσμικό τάγμα ιπποτών.Προώθησε το άνοιγμα νέων ορυχείων χρυσού, που έκαναν την Ουγγαρία τον μεγαλύτερο παραγωγό χρυσού στην Ευρώπη.Τα πρώτα ουγγρικά χρυσά νομίσματα κόπηκαν κατά τη διάρκεια της βασιλείας του.Στο συνέδριο του Visegrad το 1335, μεσολάβησε για μια συμφιλίωση μεταξύ δύο γειτονικών μοναρχών, του Ιωάννη της Βοημίας και του Casimir III της Πολωνίας.Οι συνθήκες που υπογράφηκαν στο ίδιο συνέδριο συνέβαλαν επίσης στην ανάπτυξη νέων εμπορικών διαδρομών που συνδέουν την Ουγγαρία με τη Δυτική Ευρώπη.Οι προσπάθειες του Καρόλου να επανενώσει την Ουγγαρία, μαζί με τις διοικητικές και οικονομικές του μεταρρυθμίσεις, έθεσαν τη βάση για τα επιτεύγματα του διαδόχου του, Λουδοβίκου του Μεγάλου.