Berdasarkan catatan sejarah, cikal bakal wilayah Jakarta telah dikenal sejak abad ke-4 hingga ke-5 Masehi. Saat itu, wilayah ini berada dalam kekuasaan Kerajaan Hindu Tarumanegara, kerajaan tertua kedua di Nusantara setelah Kutai. Tarumanegara mencapai puncak kejayaan di bawah Raja Purnawarman sebelum runtuh pada 669 M. Runtuhnya kerajaan ini melahirkan dua entitas baru: Kerajaan Sunda dan Kerajaan Galuh.
Sekitar abad ke-14, Jakarta masuk dalam wilayah Kerajaan Sunda (Pajajaran), yang berdiri sejak 932 M hingga 1579 M dengan pusat pemerintahan di Pakuan (Bogor saat ini). Pelabuhan Sunda Kelapa, yang kini dikenal sebagai Jakarta, menjadi pelabuhan utama kerajaan ini.
Pada 1522, Pajajaran menandatangani perjanjian dengan Portugis yang mengizinkan mereka membangun benteng di Sunda Kelapa sebagai imbalan pasokan lada. Namun, sekitar 1526, Sunan Gunung Jati bersama pasukan dari Cirebon dan Demak berhasil merebut Banten. Setahun kemudian, pada 22 Juni 1527, pasukan Fatahillah merebut Sunda Kelapa dari Portugis dan mengganti namanya menjadi Jayakarta.
