Để khuyến khích nghiên cứu khoa học, năm 1983, Viện Toán học thành lập Giải thưởng “Công trình nghiên cứu khoa học của cán bộ trẻ” (không quá 35 tuổi), sau này được đổi tên là “Giải thưởng khoa học cho cán bộ trẻ”. Người đầu tiên nhận giải thưởng là TS Đỗ Ngọc Diệp, người sau đó đã trở thành Giáo sư – Tiến sĩ khoa học, một trong những nhà toán học đầu ngành của Việt Nam.

Nhằm góp phần đẩy mạnh công tác nghiên cứu khoa học của cả nước và phát huy ảnh hưởng của Viện trong cộng đồng toán học cả nước, kể từ năm 1997, “Giải thưởng khoa học cho cán bộ trẻ” được đổi tên thành “Giải thưởng khoa học Viện Toán học” và được xét trao cho cả các cán bộ ngoài Viện, trao hai năm một lần, vào các năm lẻ với giới hạn tuổi là không quá 40, mỗi năm không quá hai người.

Năm 2011, Hội đồng Khoa học Viện Toán học tại cuộc họp ngày 22 tháng 12 đã quyết định trao Giải thưởng Viện Toán học cho hai nhà toán học xuất sắc: là Tiến sĩ Trần Vũ Khanh, Đại học Tân Tạo, Long An và TS. Bùi Trọng Kiên, Đại học Xây dựng Hà Nội.

TS. Trần Vũ Khanh sinh năm 1983 tại Cà Mau, tốt nghiệp Đại học Khoa học tự nhiên, ĐHQG TpHCM năm 2005 và bảo vệ luận án Tiến sỹ năm 2009 tại Đại học Padova, Italia, năm 2009. TS. Khanh đã có nhiều công trình nghiên cứu xuất sắc, xuất bản trên các tạp chí có uy tín cao về Toán như Advances in Mathematics, Inventiones Mathematicae,…

TS. Bùi Trọng Kiên sinh năm 1972 tại Ninh Bình, tốt nghiệp Đại học Vinh năm 1993, bảo vệ luận án Tiến sĩ năm 2003 tại Viện Toán học. Từ năm 2005 tới 2010 là nghiên cứu sinh sau tiến sỹ tại Đài Loan và Hàn Quốc. TS. Kiên đã có hơn 20 công trình khoa học trên nhiều tạp chí có uy tín.
Lễ trao Giải thưởng đã diễn ra vào ngày 4 tháng 5 năm 2012.