Ngày 31/3/1975, Bộ Chính trị họp, nhận định: “Cuộc Tổng tiến công chiến lược đã giành được thắng lợi vô cùng to lớn”… Thời cơ chiến lược tiến hành tổng công kích, tổng khởi nghĩa vào sào huyệt của địch đã chín muồi” và quyết định mở cuộc tổng tiến công và nổi dậy giải phóng Sài Gòn trong thời gian sớm nhất, tốt nhất là trong tháng 4, với tư tưởng chỉ đạo là “thần tốc, táo bạo, bất ngờ, chắc thắng”.
Cùng ngày, tại Hà Nội, Đại tướng Võ Nguyên Giáp giao nhiệm vụ cho đồng chí Nguyễn Thế Bôn - Phó Tư lệnh, Tham mưu trưởng Quân đoàn 1 - nhiệm vụ tổ chức hành quân gấp vào miền Đông Nam Bộ hiệp đồng với các đơn vị bạn tham gia chiến dịch Giải phóng Sài Gòn-Gia Định. Trong vòng 16 ngày, Quân đoàn phải tổ chức các lực lượng hành quân vào tập kết tại Đồng Xoài.
11 giờ ngày 31/3/1975, Bộ Chính trị điện chỉ thị đồng chí Văn Tiến Dũng vào Nam Bộ sớm gặp đồng chí Phạm Hùng để bàn ngay kế hoạch đánh chiếm Sài Gòn, do “tình hình biến chuyển nhanh, cần tranh thủ thời gian hành động khẩn trương”.
Tại Bình Định, 5 giờ 15 phút, ngày 31/3/1975, trận công kích toàn diện của ta vào toàn bộ tuyến phòng thủ của địch ở đây cùng lúc diễn ra. Các trung đoàn 12 và 141 Sư đoàn 3 đánh cụm quân địch. Trung đoàn 95A đánh vào cụm quân của Trung đoàn 41 Việt Nam Cộng hòa từ Núi Một đến cầu Phú Phong. Sư đoàn 968 tiếp tục tiến công địch ở núi Trà Lam Sơn. Một mũi của Sư đoàn 968 thọc sâu đánh chiếm và giải phóng thị xã Đập Đá, cắt Đường số 1.
Cũng trong sáng 31/3/1975, Thị ủy Quy Nhơn phối hợp với Trung đoàn 93 bộ đội tỉnh bí mật vu hồi vào phía nam thị xã, bất ngờ đánh chiếm khu 5, núi Một, cầu Đôi, cầu Sông Ngang, khống chế hậu cứ Sư đoàn 22 Việt Nam Cộng hòa, sân bay địch. Pháo binh ta đặt trên núi Một chi viện cho đơn vị Đặc công nước 598 chiếm Mũi Tấn, quân cảng Quy Nhơn.
Phối hợp với bộ đội, các đoàn thể huy động hơn 11.000 quần chúng chiếm dinh Tỉnh trưởng, nhà lao, Ty Công an... 20 giờ ngày 31/3/1975, đội biệt động Quy Nhơn phối hợp với Tiểu đoàn 50, đặc công Đ30 và Đ20 đánh chiếm, cắm cờ trên tiền sảnh Tòa hành chính ngụy quyền tỉnh và Trung tâm Tiểu khu Bình Định. Thị xã Quy Nhơn và tỉnh Bình Định được giải phóng.
Tại Phú Yên, ngày 31/3/1975, Tiểu đoàn 9 Trung đoàn 64 Sư đoàn 320 tiến công cứ điểm Hòn Một; Tiểu đoàn 8 đánh chiếm đoạn Đường 1 từ Phú Khê đến cầu ván Hòa Xuân.
Ở Bắc Phú Yên, lực lượng địa phương đánh chiếm cầu Ngân Sơn, cắt Quốc lộ 1 ở phía nam Tuy An, không cho địch dồn rút về thị xã, tạo điều kiện cho bộ đội chủ lực tiến công thị xã Tuy Hòa.
Cùng ngày, Trung đoàn 48 và Trung đoàn 9 khẩn trương triển khai lực lượng tiến công địch ở thị xã Tuy Hòa.
Tại Đắk Lắk, ngày 31/3/1975, chiến sự tại đèo Phượng Hoàng tiếp diễn ác liệt. Được tin địch có ý định rút lui, chỉ huy Sư đoàn 10 điều lực lượng chiếm vị trí có lợi đoạn phía đông đèo chặn địch. Địch tập trung pháo binh, máy bay ném bom dữ dội, bộ binh địch liều chết xông lên.
Suốt đêm 31/3/1975, máy bay C130 thay nhau thả pháo sáng, bắn phá dọc đường 21, pháo địch từ căn cứ Lam Sơn, Dục Mỹ bắn phá mạnh vào trận địa ta để trấn an quân còn lại.
Ở Ninh Hòa, chiều cùng ngày, đội vũ trang công tác xã Ninh Diêm huy động quần chúng nổi dậy giải phóng xã rồi cùng lực lượng quần chúng giải phóng toàn bộ khu vực Hòn Khói. Trong đêm 31/3/1975, công chức và sĩ quan ở Nha Trang tự động di tản, quân lính ở trường hạ sĩ quan Đồng Đế cũng tháo chạy.
Tại Bình Long, 5 giờ ngày 31/3/1975, Sư đoàn 9 Quân đoàn 4 nổ súng tiến công chi khu Chơn Thành. Đến 10 giờ cùng ngày, Tiểu đoàn 7 và hai xe tăng ta chiếm được chốt bảo an. Đến 14 giờ, địch điều Chiến đoàn 315 từ Bầu Bàng lên chi viện cho Chơn Thành. Sư đoàn 9 nhận được lệnh chuyển sang đánh địch chi viện.
Trên chiến trường Khu 6, sáng 31/3/1975, Trung đoàn 812 có xe tăng yểm trợ đánh tan cuộc phản kích của địch ở Chi khu Di Linh. Trong khi đó, ở Tuyên Đức, đêm cùng ngày, địch bỏ thành phố Đà Lạt chạy về Phan Rang, phá sập cầu Đại Ninh trên Đường 20 để làm chậm bước tiến của bộ đội chủ lực ta lên Đà Lạt.
Tại miền Đông Nam Bộ, đến cuối tháng 3/1975, ta đã mở được một vùng giải phóng rộng lớn kề cạnh Sài Gòn, kéo dài từ Bắc Tây Ninh, qua Lộc Ninh, Dầu Tiếng, Chơn Thành; từ Mỏ Vẹt đến La Ngà qua Hoài Đức, Tánh Linh; từ Đường số 1 đến nam Đường số 2, Bà Rịa.
Tại Quân khu 9, ngày 31/3/1975, Trung đoàn 1 diệt phân chi khu Ba Kè, giải phóng xã Hậu Lộc, làm chủ đoạn sông Măng Thít dài 4km, cắt đứt đường giao thông vận chuyển của địch trên sông này.
Cùng thời gian này, Trung đoàn 3 Quân khu 9 tiêu diệt 4 đoàn bình định của địch ở xã Hòa Bình (Tam Bình), uy hiếp Chi khu Tam Bình về phía tây; Trung đoàn 20 Quân khu diệt một đại đội của Tiểu đoàn bảo an 407, đánh thiệt hại nặng yếu khu Thới Lai.
Qua gần một tháng tổng tiến công và nổi dậy trên toàn miền nam, ta đã tiêu diệt và làm tan rã hai quân khu-quân đoàn mạnh của địch, thu và phá hủy nhiều cơ sở vật chất kỹ thuật của chúng, giải phóng các tỉnh đồng bằng miền trung và Tây Nguyên cùng nhiều vùng ở Đồng bằng sông Cửu Long, Đông Nam Bộ, hình thành thế hợp vây Sài Gòn-Gia Định từ nhiều hướng.
