I løpet av 900-tallet var Mazovia kanskje bebodd av Mazovians stamme, og det ble innlemmet i den polske staten i andre halvdel av 900-tallet under Piast-herskeren Mieszko I. Som et resultat av fragmenteringen av Polen etter den polske monarkens død Bolesław III Wrymouth, i 1138 ble hertugdømmet Mazovia opprettet, og i løpet av 1100- og 1200-tallet sluttet det seg midlertidig til forskjellige tilstøtende land og tålte invasjoner av prøyssere, yotvingere og ruthenere.For å beskytte den nordlige delen kalte Conrad I av Mazovia inn de teutoniske ridderne i 1226 og ga dem Chełmno-landet.Den historiske regionen Mazovia (Mazowsze) omfattet i begynnelsen bare territoriene på høyre bredd av Vistula nær Płock og hadde sterke forbindelser med Stor-Polen (gjennom Włocławek og Kruszwica).I perioden med styret til de første polske monarkene i Piast-dynastiet, var Płock et av setene deres, og på katedralhøyden (Wzgórze Tumskie) reiste de palatium.I perioden 1037–1047 var det hovedstaden i den uavhengige, Mazoviske delstaten Masław.Mellom 1079 og 1138 var denne byen de facto hovedstaden i Polen.