
Během druhé fáze migračního období (500–700 nl) utvářely budoucnost Rakouska nové skupiny. Kolem roku 500 n. l. se Langobardi krátce objevili v severních a východních oblastech, ale v roce 567 byli zatlačeni na jih do Itálie, když Avaři postoupili do regionu a přivedli s sebou slovanské vazaly. Avaři nastolili nadvládu od Baltu po Balkán, ale jejich porážka u Konstantinopole v roce 626 podnítila slovanská povstání a vytvoření nezávislých slovanských území.
Jednou z nejvýznamnějších slovanských skupin byli Karatanci (alpští Slované), kteří migrovali na západ podél řeky Drávy a mísili se s místním keltsko-románským obyvatelstvem. Založili Carantanii, první nezávislý slovanský stát v Evropě, s centrem v Zollfeldu (dnešní Korutany). V 7. století se Karantánci bránili avarské nadvládě a bránili se sousedním franským nájezdům. V roce 745 se však Carantania pod tlakem Avarů i Franků stala vazalem Bavorska a nakonec byla začleněna do karolínské říše.
Mezitím si na západě začali upevňovat moc Bavoři (Bavorové), germánský kmen a vazalové Franků. Do roku 550 n. l. vytvořili Bavorové kmenové vévodství pod dynastií Agilolfingů s centrem v Regensburgu a rozšířili své území na území dnešního západního Rakouska a Jižního Tyrolska. Smísili se s rétorománským obyvatelstvem a zatlačili je dále do hor. Bavorská migrace sahala až do údolí Puster a později se do roku 610 rozšířila až k řece Enns.
V roce 650 postoupili Slované na západ, ale zastavili další bavorskou expanzi. Vznikla sídelní hranice mezi těmito dvěma skupinami, která se táhla od Freistadtu přes Linz a Salcburk až po východní Tyrolsko. Avaři a Slované obsadili východní oblasti Rakouska a části moderních Čech. Postupem času se bavorští osadníci přestěhovali po Dunaji do alpských údolí, čímž položili základy budoucnosti Rakouska jako německy mluvící oblasti. V jižních Korutanech si však Slované udrželi svůj jazyk a identitu až do počátku 20. století, kdy je asimilace zredukovala na menšinové obyvatelstvo.