Durante o século IX, a Mazóvia talvez tenha sido habitada pela tribo dos Mazovianos e foi incorporada ao estado polonês na segunda metade do século X sob o governante Piast Mieszko I. Como resultado da fragmentação da Polônia após a morte do monarca polonês Bolesław III Wrymouth, em 1138 o Ducado de Mazovia foi estabelecido, e durante os séculos 12 e 13 juntou-se temporariamente a várias terras adjacentes e suportou invasões de prussianos, yotvingianos e rutenos.Para proteger sua seção norte, Conrado I da Mazóvia convocou os Cavaleiros Teutônicos em 1226 e concedeu-lhes a Terra de Chełmno.A região histórica da Mazóvia (Mazowsze) no início abrangia apenas os territórios na margem direita do Vístula perto de Płock e tinha fortes conexões com a Grande Polônia (através de Włocławek e Kruszwica).No período do governo dos primeiros monarcas poloneses da dinastia Piast, Płock foi uma de suas sedes, e na Colina da Catedral (Wzgórze Tumskie) eles ergueram um palácio.No período de 1037–1047, foi a capital do estado independente da Mazóvia de Masław.Entre 1079 e 1138 esta cidade foi de facto a capital da Polónia.