Kejohanan Piala Malaysia pertama kali dipertandingkan pada tahun 1921. Pertandingan akhir diadakan di Padang Kelab Selangor (sekarang dataran Merdeka). Singapura muncul juara pertama mengalahkan Selangor 2-1.

Sejarah Piala Malaysia bermula apabila sebuah kapal perang Inggeris - HMS Malaya melawat Tanah Melayu dalam tahun 1920.

Piala HMS Malaya dinamakan sempena nama kapal perang itu. Pada tahun 1967 Persatuan Bola Sepak Malaysia memutuskan Piala HMS yang dipertandingkan itu digantikan dengan piala baru, iaitu Piala Malaysia. Pada masa itu semua negeri kecuali Sabah dan Sarawak menyertai pertandingan ini.