Peter kembali ke Moscow pada November 1695 dan mula membina tentera laut yang besar.Dia melancarkan kira-kira tiga puluh kapal menentang Uthmaniyyah pada tahun 1696, menawan Azov pada Julai tahun itu.Pada 12 September 1698, Peter secara rasmi mengasaskan pangkalan Tentera Laut Rusia yang pertama, Taganrog yang menjadi Armada Laut Hitam Rusia.Semasa Perang Besar Utara 1700–1721, Rusia membina Armada Baltik.Pembinaan armada dayung (armada galley) berlaku pada 1702–1704 di beberapa limbungan kapal (muara sungai Syas, Luga dan Olonka).Untuk mempertahankan pantai yang ditakluki dan menyerang komunikasi maritim musuh di Laut Baltik, Rusia mencipta armada pelayaran dari kapal yang dibina di Rusia dan lain-lain yang diimport dari luar negara.