Trường Trung học Hoàng Diệu được bắt đầu xây cất từ năm 1949 trên một khu đất rộng khoảng 3 hecta, nằm trong phạm vi của 4 con đường: Mạc đỉnh Chi, Nguyễn đình Chiểu, Phan đình Phùng và Đề Thám.
Ngày 1-10-1957 trường trung học tỉnh Ba Xuyên khai giảng với tên là Trường Trung Học Công Lập Khánh Hưng. Thầy Mai văn Kiêm, thanh tra tiểu học tạm thời giữ chức vụ : Quyền Hiệu trưởng.
Từ niên khóa 1960-1961, thầy Bùi văn Nên được bộ giáo dục chính thức bổ nhiệm làm hiệu trưởng, đồng thời trường cũng mở thêm các lớp đệ nhị cấp.
Thời gian này thầy hiệu trưởng giao nhiệm vụ cho 4 vị giáo sư trẻ: thầy Huỳnh kim Báu, thầy Vũ tiến Căn, thầy Nguyễn kim Thiệt và thầy Nguyễn thế Thoại, tìm hiểu và đề nghị một tên mới cho trường dựa theo tên của các vị danh nhân trong sử sách để đưa lên bộ Giáo Dục duyệt xét. Danh sách đứng đầu mà 4 vị giáo sư đã chọn là Tổng Đốc Hoàng Diệu.
Trường Trung học công lập Hoàng Diệu được chính thức mang tên vào ngày 6-10-1961 do nghị định số 1371/GD/PC/NĐ ký ngày 30-9-1961 của bộ Giáo Dục.
- Từ năm 1963-1965 hiệu trưởng là thầy Trần cảnh Xuân.
- Từ năm 1965-1970 hiệu trưởng là thầy Phan ngọc Răng.
- Từ năm 1970-1973 thầy Lê xuân Vịnh làm hiệu trưởng.
- Và cuối cùng thầy Lâm cộng Hưởng làm hiệu trưởng từ 1973-1975.
