Chào bạn !
Tôi có môt chút ít hiểu biết về lĩnh vực này. Cả 3 loại mà bạn nói đều có liên quan đến nhau cả. Quy Hoạch ttuyến tính là một nhánh con (đặc biệt nhưng có nhiều ứng dụng) của lý thuyết TỐI ƯU tổng quát. Còn vận trù học thì nó cũng chứa luôn cả QHTT và một số khác như THỐNG KÊ NHIỀU CHIỀU,...
Theo tôi nghi thì bạn nên học môn Quy hoạch tuyến tính trước, sau đó mới nên tìm hiểu đến lý thuyết TỐI ƯU và VẬN TRÙ HỌC.
Những sách về các lĩnh vực này bằng tiếng việt khá nhiều (Vì Hà Nội là TRUNG TÂM TỐI ƯU HÓA của thế giới mà ).