Trong toán học, số học là môn phát sinh trước, sớm nhất. Nếu đứng ở góc độ số học để khảo cứu những cánh sao, tia sáng mặt trời, đàn con chim, chiếc thuyền... khắc vẽ trên mặt, trên thân các trống đồng Đông Sơn, chúng ta sẽ tập hợp được nhiều sự kiện toán học nằm trong đó, cung cấp cho ta một bức tranh đẹp về trình độ nắm vững và sử dụng số học của tổ tiên ta thời cổ đại. Nghiên cứu các hoa văn trên đồ gốm tìm được ở Phùng Nguyên, Gò Bông, Xóm Rền... chúng ta thấy các dạng hoa văn rất phong phú: hình chữ S, có loại dài, loại vuông, loại nối ngang lưng nhau; hình chữ X, chữ A; hai đường song song uốn khúc đều đặn, liên tục; hình tam giác xếp ngược chiều nhau, hình tam giác cuộn. Qua đấy, không thể nghi ngờ gì được khi nói rằng người Việt Nam 3-4 nghìn năm trước đây đã có những nhận thức hình học và tư duy chính xác khá cao. Từ hình dáng, kích thước các trống đồng loại cổ nhất ở Việt Nam, chúng ta hiểu, để tạo được những mặt tròn đường kính to nhỏ khác nhau, những mặt phẳng, những góc độ chính xác ấy, các nhà chế tác trống đồng thuở đó phải sử dụng các con số, các loại thước chính xác.
Lần đọc các bộ biên niên sử, chúng ta biết ở nước ta, thi toán được đưa vào chương trình khoa cử từ thế kỷ thứ 11 (đời Lý, năm 1077). Thời nhà Hồ không những bắt buộc chương trình thi toán mà còn áp dụng rộng rãi toán học vào kinh tế, sản xuất: dùng toán học đo lại tổng số ruộng đất toàn quốc, lập thành sổ sách điền địa từng lộ, phủ, châu, huyện. Năm 1506, Nhà nước tổ chức kỳ thi toán có 30 nghìn người dự thi. Kết quả 1.519 người trúng tuyển, trong đó có 144 người giỏi, 25 người rất giỏi. Nói chung, ở nước ta thời xưa cứ khoảng 10 đến 15 năm lại một lần mở khoa thi toán, hỏi về các phép bình phân và sai phân. Truyền thống này được duy trì lâu dài. Thế kỷ thứ 18, cứ 12 năm lại tổ chức một lần thi toán. Thí dụ, kỳ thi toán năm 1762 có 120 người trúng tuyển.
Trong số các nhà toán học giỏi của nước ta thế kỷ thứ 15 - 16, Lương Thế Vinh và Vũ Hữu là những người nổi bật, được đương thời tôn làm "thần toán".
Lương Thế Vinh từng nói: "Thần cơ diệu toán vạn niên sư". Nghĩa là: Ai tính toán giỏi là thầy muôn đời. Tác phẩm của Lương Thế Vinh để lại có Đại thành toán pháp.
Về sự sáng tạo của Lương Thế Vinh hồi nhỏ, có giai thoại kể rằng một lần trong lúc đang chơi bóng với các bạn, quả bóng lăn xuống một hố hẹp và sâu, tưởng như không lấy lên được. Lương Thế Vinh đã nghĩ ra cách lấy bóng lên bằng việc đổ nước vào hố và lợi dụng việc bóng nổi trên nước để lấy lại quả bóng.
Về phong cách học tập của Lương Thế Vinh, có giai thoại so sánh ông với Quách Đình Bảo cũng là người nổi tiếng về thông minh, học giỏi ở vùng Sơn Nam (Ngày nay thuộc Thái Bình và Nam Định). Khi sắp đến kỳ thi của triều đình, Quách Đình Bảo thì ngày đêm dùi mài kinh sử quên ngủ, quên ăn; còn Vinh thì thư giãn, thả diều cùng bạn bè. Kì thi đó Quách Đình Bảo đỗ đầu nhưng đến khoa thi Đình (kì thi Quốc gia) Quý Mùi năm Quang Thuận thứ tư, đời vua Lê Thánh Tông (1463) Lương Thế Vinh đỗ trạng nguyên (đỗ đầu), Quách Đình Bảo chỉ đỗ thám hoa (đỗ thứ 3).
Sự sáng tạo khoa học của Lương Thế Vinh được truyền khẩu qua câu chuyện ông tiếp đón sứ nhà Minh là Chu Hy. Hy đã nghe nói về Lương Thế Vinh, không những nổi tiếng về văn chươngâm nhạc, mà còn tinh thông toán học, nên thách đố Vinh cân một con voi. Lương Thế Vinh đưa voi lên một chiếc thuyền rồi đánh dấu mép nước bên thuyền, sau đó dắt voi lên. Tiếp theo, ông ra lệnh đổ đá hộc xuống thuyền, cho đến lúc thuyền chìm xuống đến đúng dấu cũ. Việc còn lại là đưa từng viên đá lên cân và cộng kết quả. Chu Hy thán phục ông nhưng tiếp tục đố ông đo bề dày của một tờ giấy xé ra từ một quyển sách. Khi nghe ông nói chỉ cần đo bề dày cả cuốn sách rồi chia đều cho số tờ là ra ngay kết quả, Chu Hy ngửa mặt lên trời than: "Nước Nam quả có lắm người tài!". Lương Thế Vinh đáp lại rằng người nghĩ ra cách cân voi thật sự là Tào Xung, con của Tào Tháo. Điều này càng khiến cho sứ giả hổ thẹn vì chưa thuộc sử nước nhà.
Lương Thế Vinh cũng được gắn với một vài giai thoại với vua quan nhà Lê. Các giai thoại này cho thấy ông ứng đáp thông minh với vua, có các lời khuyên hợp lý cho vua và răn dạy các quan dưới cấp bỏ thói hách dịch nhân dân.
Khi ông qua đời, vua Lê Thánh Tông rất thương tiếc và viết một bài thơ khóc Trạng:
Chiếu thư thượng đế xuống đêm qua
Gióng khách chương đài kiếp tại nhà
Cẩm tú mấy hàng về động ngọc
Thánh hiền ba chén ướt hồn hoa
Khí thiên đã lại thu sơn nhạc
Danh lạ còn truyền để quốc gia
Khuất ngón tay than tài cái thế
Lấy ai làm Trạng nước Nam ta
Vũ Hữu, người cùng thời với Lương Thế Vinh, đỗ Hoàng giáp năm 1463. Vũ Hữu làm quan Thượng thư 5 bộ. Ông là một nhà toán học tài năng, viết cuốn Lập thành toán pháp và đặt ra phép đo tính ruộng đất phổ biến trong cả nước.
Sách Công dư tiệp ký ghi lại câu chuyện sau: Vua Lê Thánh Tông muốn thử tài của Vũ Hữu, nên đã giao cho ông sửa chữa ba cửa Đoan Môn, Đại Hưng và Đông Hoa của thành Thăng Long. Tuân lệnh, Vũ Hữu dùng thước đo chiều cao, chiều dài, chiều rộng của các cửa thành và tính ra số gạch đá, vật liệu phải dùng. Kết quả là khi xây xong, đá không thừa một tấc, gạch không thiếu một viên, quy mô các cửa thành được sửa chữa không sai một ly, một tấc. Vua Lê Thánh Tông rất hài lòng đã ban chiếu khen thưởng Vũ Hữu.
