Tan Sri Dato' Alwi Jantan mencatat sejarah sebagai Ketua Pengarah Perpustakaan Negara Malaysia pertama di negara ini. Beliau berlulusan Sarjana Muda Sastera dengan kepujian dalam bidang sejarah dari Universiti Malaya pada 1958. Selepas menamatkan pengajian di UM pada 1958, beliau telah menerima UNESCO Fellowship bidang Archives & Libraries pada 1966. Beliau telah menerima Diploma dalam Pelaeography, Archives & Diplomacy pada 1979 dan Advanced Management Programme dari Harvard University pada 1980.

Kerjayanya dengan perkhidmatan awam bermula pada tahun 1958 apabila beliau memegang beberapa jawatan tinggi termasuk sebagai Pengarah Arkib Negara pada 15 Februari 1966. Beliau di lantik sebagai Ketua Pengarah Arkib Negara dan Perpustakaan pada 1 Januari 1971 sebelum beliau ditukarkan sebagai Setiausaha Negeri Selangor pada 1 Julai 1972. Beliau telah bersara dari perkhidmatan awam pada 16 April 1990 semasa memegang jawatan Ketua Pengarah di Jabatan Perkhidmatan Awam.