
Durante la seconda fase del periodo migratorio (500–700 d.C.), nuovi gruppi plasmarono il futuro dell'Austria. Intorno al 500 d.C., i Longobardi apparvero brevemente nelle regioni settentrionali e orientali, ma furono spinti a sud in Italia nel 567 quando gli Avari avanzarono nella regione, portando con sé vassalli slavi. Gli Avari stabilirono il dominio dal Baltico ai Balcani, ma la loro sconfitta vicino a Costantinopoli nel 626 stimolò rivolte slave e la creazione di territori slavi indipendenti.
Uno dei gruppi slavi più significativi furono i Carantani (slavi alpini), che migrarono verso ovest lungo il fiume Drava, mescolandosi con la popolazione celto-romana locale. Fondarono la Carantania, il primo stato slavo indipendente in Europa, con centro a Zollfeld (la moderna Carinzia). Nel VII secolo, i Carantani resistettero al controllo degli Avari e si difesero dalle vicine incursioni dei Franchi. Tuttavia, nel 745 d.C., sotto la pressione sia degli Avari che dei Franchi, la Carantania divenne vassallo della Baviera e alla fine fu assorbita nell'impero carolingio.
Nel frattempo, in occidente, i Bavarii (Bavaresi), tribù germanica vassalli dei Franchi, cominciavano a consolidare il potere. Nel 550 d.C., i bavaresi avevano formato un ducato sotto la dinastia degli Agilolfing con centro a Ratisbona, espandendo il loro territorio in quella che oggi è l'Austria occidentale e l'Alto Adige. Si mescolarono con le popolazioni retoromane, spingendole più in alto sulle montagne. La migrazione bavarese arrivò fino alla Val Pusteria e successivamente si estese fino all'Enns nel 610 d.C.
Nel 650 d.C. gli slavi erano avanzati verso ovest ma fermarono l'ulteriore espansione bavarese. Emerse un confine di insediamento tra i due gruppi, che si estendeva da Freistadt attraverso Linz e Salisburgo fino al Tirolo Orientale. Gli Avari e gli Slavi occupavano le regioni orientali dell'Austria e parti della moderna Boemia. Nel corso del tempo, i coloni bavaresi si trasferirono lungo il Danubio e nelle valli alpine, gettando le basi per il futuro dell'Austria come regione di lingua tedesca. Tuttavia, nella Carinzia meridionale, gli slavi mantennero la loro lingua e identità fino all'inizio del XX secolo, quando l'assimilazione li ridusse a una popolazione minoritaria.