
Durante o início da Idade Média (séculos VIII a X), o território da Áustria fazia parte do Ducado da Baviera, uma região que oscilava entre a independência e o controle do Império Franco. Inicialmente, os bávaros alcançaram uma breve independência em 717 dC, mas logo foram subjugados por Carlos Martel. Em 788 dC, Carlos Magno depôs o último duque Agilolfing, Tassilo III, colocando a Baviera e seus territórios sob controle direto carolíngia.
As campanhas de Carlos Magno contra os ávaros em 791-803 dC expandiram a influência franca para o leste. Os ávaros recuaram para além dos rios Fischa e Leitha, permitindo que Carlos Magno estabelecesse marchas defensivas (fronteiras militares) do Danúbio ao Mar Adriático. Entre elas estava a Marcha Avar, localizada onde hoje é a Baixa Áustria, e a Marcha da Caríntia, ao sul. Ambos passaram a fazer parte da Marcha orientalis (Marcha Oriental), região fronteiriça da Baviera.
Por volta de 805 dC, com a permissão de Carlos Magno, os ávaros restantes estabeleceram-se a sudeste de Viena. No entanto, uma nova ameaça surgiu em 862 d.C. com a chegada dos magiares , que haviam migrado para o oeste após serem deslocados das estepes. Em 896 dC, eles ocuparam a planície húngara e iniciaram ataques frequentes aos territórios da Baviera e dos francos. Em 907 dC, os húngaros infligiram uma derrota decisiva aos bávaros na Batalha de Pressburg, forçando-os a recuar para o rio Enns em 909 dC.
A Baviera tornou-se margraviada sob Engeldeo (890-895) e foi brevemente reunida com a Caríntia sob Arnulf, o Mau (907-937). No entanto, seu filho Eberhard foi deposto por Otto I (o futuro Sacro Imperador Romano) em 938 EC. Sob a liderança de Otto I, os húngaros foram derrotados na Batalha de Lechfeld em 955, encerrando seus ataques e iniciando a reconquista gradual dos territórios orientais, incluindo Ístria e Carniola.
Otto I reorganizou seu império, reduzindo o tamanho da Baviera ao restabelecer o Ducado da Caríntia. A leste, ele criou uma nova Marcha Oriental (Ostmark), que mais tarde se tornaria a Áustria. Em 976 dC, Otto I nomeou Leopoldo I da dinastia Babenberg para governar esta nova marcha. Leopoldo, conhecido como Leopoldo, o Ilustre, governou de 976 a 994 dC, lançando as bases para o que eventualmente evoluiria para o estado austríaco.