ทางรถไฟสายแรกของแคลิฟอร์เนียสร้างขึ้นจากแซคราเมนโตถึงฟอลซัม แคลิฟอร์เนีย โดยเริ่มในเดือนกุมภาพันธ์ พ.ศ. 2398 เส้นทางยาว 22 ไมล์ (35 กม.) นี้มีจุดมุ่งหมายเพื่อใช้ประโยชน์จากการขุดทองที่รุ่งเรืองในเพลเซอร์วิลล์ รัฐแคลิฟอร์เนีย แต่ก็สร้างเสร็จในเวลาเดียวกัน (กุมภาพันธ์ พ.ศ. 2399) ) เมื่อการขุดใกล้จะสิ้นสุดลงทางรถไฟข้ามทวีปสายแรกจากแซคราเมนโต แคลิฟอร์เนียไปยังโอมาฮา เนแบรสกา เสร็จสมบูรณ์เมื่อวันที่ 9 พฤษภาคม พ.ศ. 2412 ทางรถไฟสายแปซิฟิกกลาง ซึ่งเป็นจุดสิ้นสุดของทางรถไฟในมหาสมุทรแปซิฟิก รับภาระการขนส่งสินค้าเกือบทั้งหมดข้ามเทือกเขาเซียร์รา เนวาดาในแคลิฟอร์เนียตอนเหนือในปี พ.ศ. 2413 มีการเชื่อมต่อทางรถไฟไปยังโอกแลนด์ รัฐแคลิฟอร์เนีย และโดยรถไฟข้ามฟากไปยังซานฟรานซิสโก รัฐแคลิฟอร์เนีย จากซาคราเมนโต ซึ่งเชื่อมต่อเมืองใหญ่ทั้งหมดในแคลิฟอร์เนียจากนั้นก็ไปยังชายฝั่งตะวันออกได้อย่างมีประสิทธิภาพทางรถไฟสายแรกของแคลิฟอร์เนียตอนใต้ คือ Los Angeles & San Pedro Railroad เปิดให้บริการในเดือนตุลาคม พ.ศ. 2412 โดย John G. Downey และ Phineas Banningวิ่งเป็นระยะทาง 21 ไมล์ (34 กม.) ระหว่างซานเปโดรและลอสแองเจลิสในปี พ.ศ. 2419 ทางรถไฟสายแรกของแคลิฟอร์เนียที่เชื่อมระหว่างลอสแองเจลิสกับแคลิฟอร์เนียตอนเหนือเสร็จสมบูรณ์เมื่อสาย San Joaquin ของ Southern Pacific Railroad เสร็จสิ้นอุโมงค์รถไฟ San Fernando ผ่านภูเขา Tehachapi ซึ่งเชื่อมลอสแองเจลิสกับ Central Pacific Railroadเส้นทางนี้ไปยังลอสแองเจลิสตามเส้นทาง Tehachapi Loop ซึ่งเป็น 'เส้นทางเกลียว' ยาว 0.73 ไมล์ (1.17 กม.) หรือเกลียวผ่าน Tehachapi Pass ใน Kern County และเชื่อมต่อ Bakersfield และ San Joaquin Valley กับ Mojave ในทะเลทราย Mojaveแม้ว่าทางรถไฟส่วนใหญ่ของรัฐแคลิฟอร์เนียจะเริ่มต้นจากการเป็นทางรถไฟสายสั้น แต่ในช่วงปี 1860 ถึง 1903 มีการควบรวมและเข้าซื้อกิจการทางรถไฟหลายครั้งซึ่งนำไปสู่การสร้างทางรถไฟระหว่างรัฐหลักสี่สายที่ให้บริการในรัฐ (ทางรถไฟ Southern Pacific Railroad, Union Pacific Railroad, รถไฟซานตาเฟและรถไฟแปซิฟิกตะวันตก)ทางรถไฟแต่ละสายควบคุมทางรถไฟข้ามทวีปหนึ่งสาย (และมหาสมุทรแปซิฟิกตอนใต้ควบคุมสองสาย) ซึ่งเชื่อมโยงแคลิฟอร์เนียกับรัฐที่อยู่ไกลออกไปทางตะวันออกทางรถไฟเคลื่อนย้ายสินค้าและผู้โดยสารในปริมาณมาก และทำให้เศรษฐกิจและประชากรของรัฐขยายตัวอย่างรวดเร็วในช่วงปลายศตวรรษที่ 19 และต้นศตวรรษที่ 20ในช่วงทศวรรษที่ 1890 การก่อสร้างทางรถไฟไฟฟ้าได้เริ่มขึ้นในแคลิฟอร์เนีย และในต้นศตวรรษที่ 20 มีหลายระบบที่ให้บริการแก่เมืองที่ใหญ่ที่สุดในแคลิฟอร์เนียระบบรถไฟไฟฟ้าของรัฐประกอบด้วย San Diego Electric Railway, Los Angeles' Pacific Electric System, Los Angeles Pacific Railroad, East Bay Electric Lines และ San Francisco, Oakland และ San Jose Railway และระบบรถไฟระหว่างเมือง เช่น Sacramento Northern Railway ถูกสร้างขึ้นด้วยในช่วงทศวรรษที่ 1920 ระบบไฟฟ้า Pacific Electric ในลอสแองเจลิสเป็นทางรถไฟไฟฟ้าที่ใหญ่ที่สุดในโลก