
Durante l'Alto Medioevo (VIII-X secolo), il territorio austriaco faceva parte del Ducato di Baviera, una regione che passò dall'indipendenza al controllo da parte dell'Impero franco. Inizialmente, i bavaresi ottennero una breve indipendenza nel 717 d.C., ma furono presto sottomessi da Carlo Martello. Nel 788 d.C., Carlo Magno depose l'ultimo duca Agilolfingo, Tassilo III, portando la Baviera e i suoi territori sotto il diretto controllo carolingio.
Le campagne di Carlo Magno contro gli Avari nel 791–803 d.C. espansero l'influenza dei Franchi verso est. Gli Avari si ritirarono oltre i fiumi Fischa e Leitha, consentendo a Carlo Magno di stabilire marce difensive (confini militari) dal Danubio al Mare Adriatico. Tra queste c'era la marca degli Avari, situata nell'attuale Bassa Austria, e la marca della Carinzia a sud. Entrambi entrarono a far parte della Marcha orientalis (marcia orientale), una regione di frontiera della Baviera.
Nell'805 d.C., con il permesso di Carlo Magno, i restanti Avari si stabilirono a sud-est di Vienna. Tuttavia, una nuova minaccia emerse nell'862 d.C. con l'arrivo dei Magiari , che erano emigrati verso ovest dopo essere stati sfollati dalle steppe. Nell'896 d.C. occuparono la pianura ungherese e iniziarono frequenti incursioni nei territori bavaresi e franchi. Nel 907 d.C., gli ungheresi inflissero una sconfitta decisiva ai bavaresi nella battaglia di Pressburg, costringendoli a ritirarsi sul fiume Enns entro il 909 d.C.
La Baviera divenne margraviato sotto Engeldeo (890–895) e fu brevemente riunita alla Carinzia sotto Arnolfo il Malo (907–937). Tuttavia, suo figlio Eberardo fu deposto da Ottone I (il futuro imperatore del Sacro Romano Impero) nel 938 d.C. Sotto la guida di Ottone I, gli Ungari furono sconfitti nella battaglia di Lechfeld nel 955, ponendo fine alle loro incursioni e dando inizio alla graduale riconquista dei territori orientali, comprese l'Istria e la Carniola.
Ottone I riorganizzò il suo impero, riducendo le dimensioni della Baviera ristabilendo il Ducato di Carinzia. A est creò una nuova Marca Orientale (Ostmark), che in seguito sarebbe diventata l'Austria. Nel 976 d.C. Ottone I nominò Leopoldo I della dinastia Babenberg a governare questa nuova marca. Leopoldo, noto come Leopoldo l'Illustre, governò dal 976 al 994 d.C., gettando le basi per quello che alla fine si sarebbe evoluto nello stato austriaco.