Jauh sebelum adanya kerajaan-kerajaan ditanah jawa. Diujung sebelah utara pulau Jawa sudah ada sekelompok penduduk yang diyakini orang-orang itu berasal dari daerah Yunnan Selatan yang kala itu melakukan migrasi ke arah selatan. Jepara saat itu masih terpisah oleh selat Juwana.

Asal nama Jepara berasal dari perkataan Ujung Para, Ujung Mara dan Jumpara yang kemudian menjadi Jepara, yang berarti sebuah tempat pemukiman para pedagang yang berniaga ke berbagai daerah. Menurut buku “Sejarah Baru Dinasti Tang (618-906 M)” mencatat bahwa pada tahun 674 M seorang musafir Tionghoa bernama I-Tsing pernah mengunjungi negeri Holing atau Kaling atau Kalingga yang juga disebut Jawaatau Japa dan diyakini berlokasi di Keling, kawasan timur Jepara sekarang ini, serta dipimpin oleh seorang raja wanita bernama Ratu Shima yang dikenal sangat tegas.

Menurut seorang penulis Portugis bernama Tome Pires dalam bukunya “Suma Oriental”, Jepara baru dikenal pada abad ke-XV (1470 M) sebagai bandar perdagangan yang kecil yang baru dihuni oleh 90-100 orang dan dipimpin oleh Aryo Timur. Dengan ketekunan, keuletan, ketabahan, dan kegigihannya, Aryo Timur berhasil mengembangkan kota pantai kecil yang dikelilingi benteng berupa kayu dan bambu ini, menjadi sebuah bandar yang cukup besar. Bahkan ia juga berhasil memperluas kekuasaannya sampai ke Bengkulu dan Tanjung Pura, sekalipun Jepara masih berada di bawah kekuasaan Demak. 

Kemudian, pada tahun 1507 Aryo Timur digantikan oleh putranya yang bernama Pati Unus yang pada waktu itu masih berusia tujuh belas tahun. Sebagai penguasa yang masih relatif muda, Pati Unus dikenal sangat dinamis. Ia bukan saja berhasil mengembangkan armada perang, tetapi ia mampu meneruskan perjuangan ayahandanya di bidang ekonomi, menjadikan Jepara sebagai bandar perdagangan. Jepara menjadi salah satu pusat perdagangan di pesisir utara pulau Jawa.

Belum genap lima tahun memimpin Jepara, Pati Unus telah menggabungkan armada perang dengan armada perang dari Palembang, untuk menyerang kolonialisme Portugis yang bercokol di Malaka karena dipandang mengancam eksistensi Jepara. Armada Pati Unus yang terdiri dari 100 buah kapal -yang paling kecil beratnya 200 ton- ini sampai di Malaka tanggal 1 Januari 1513. Sayang, penyerangan ini gagal. Dari 100 buah perahu yang dikirim ke Malaka, hanya 8 buah yang dapat kembali ke Jepara. Kegagalan ini menurut penulis Portugis, Joan de Baros dalam bukunya “Kronik Raja D. Manoel, Pati Unus” membuat Pati Unus sangat berduka dan kecewa, sehingga ia memerintahkan kapal terbesar yang dapat kembali ke Jepara, untuk diabadikan sebagai monumen perang di pantai Jepara .

Pati Unus kemudian digantikan oleh ipar Falatehan, yang namanya tidak tercatat dalam sejarah. Ia berkuasa tahun 1521 hingga tahun 1536. Dalam pemerintahannya, Jepara ikut membantu Falatehan dalam merebut Banten dan Sunda Kelapa, termasuk mengusir bangsa Portugis dari Sunda Kelapa tahun 1527.

Pati Unus dikenal sangat gigih melawan penjajahan Portugis di Malaka yang menjadi mata rantai perdagangan nusantara. Setelah Pati Unus wafat digantikan oleh ipar Faletehan /Fatahillah yang berkuasa (1521-1536). Kemudian pada tahun 1536 oleh penguasa Demak yaitu Sultan Trenggono, Jepara diserahkan kepada anak dan menantunya yaitu Ratu Retno Kencono dan Pangeran Hadirin, suaminya. Namun setelah tewasnya Sultan Trenggono dalam Ekspedisi Militer di Panarukan Jawa Timur pada tahun 1546, timbulnya geger perebutan tahta kerajaan Demak yang berakhir dengan tewasnya Pangeran Hadiri oleh Aryo Penangsang pada tahun 1549.

Kematian orang-orang yang dikasihi membuat Ratu Retno Kencono sangat berduka dan meninggalkan kehidupan istana untuk bertapa di bukit Danaraja. Setelah terbunuhnya Aryo Penangsang oleh Sutowijoyo, Ratu Retno Kencono bersedia turun dari pertapaan dan dilantik menjadi penguasa Jepara dengan gelar NIMAS RATU KALINYAMAT.

Pada masa pemerintahan Ratu Kalinyamat (1549-1579), Jepara berkembang pesat menjadi Bandar Niaga utama di Pulau Jawa, yang melayani eksport import. Disamping itu juga menjadi Pangkalan Angkatan Laut yang telah dirintis sejak masa Kerajaan Demak.

Sebagai seorang penguasa Jepara, yang gemah ripah loh jinawi karena keberadaan Jepara kala itu sebagai Bandar Niaga yang ramai, Ratu Kalinyamat dikenal mempunyai jiwa patriotisme anti penjajahan. Hal ini dibuktikan dengan pengiriman armada perangnya ke Malaka guna menggempur Portugis pada tahun 1551 dan tahun 1574. Adalah tidak berlebihan jika orang Portugis saat itu menyebut sang Ratu sebagai “RAINHA DE JEPARA”SENORA DE RICA”, yang artinya Raja Jepara seorang wanita yang sangat berkuasa dan kaya raya.

Serangan sang Ratu yang gagah berani ini melibatkan hamper 40 buah kapal yang berisikan lebih kurang 5.000 orang prajurit. Namun serangan ini gagal, ketika prajurit Kalinyamat ini melakukan serangan darat dalam upaya mengepung benteng pertahanan Portugis di Malaka, tentara Portugis dengan persenjataan lengkap berhasil mematahkan kepungan tentara Kalinyamat.

Namun semangat Patriotisme sang Ratu tidak pernah luntur dan gentar menghadapi penjajah bangsa Portugis, yang di abad 16 itu sedang dalam puncak kejayaan dan diakui sebagai bangsa pemberani di Dunia.

Dua puluh empat tahun kemudian atau tepatnya Oktober 1574, sang Ratu Kalinyamat mengirimkan armada militernya yang lebih besar di Malaka. Ekspedisi militer kedua ini melibatkan 300 buah kapal diantaranya 80 buah kapal jung besar berawak 15.000 orang prajurit pilihan. Pengiriman armada militer kedua ini di pimpin oleh panglima terpenting dalam kerajaan yang disebut orang Portugis sebagai “QUILIMO”.

Walaupun akhirnya perang kedua ini yang berlangsung berbulan-bulan tentara Kalinyamat juga tidak berhasil mengusir Portugis dari Malaka, namun telah membuat Portugis takut dan jera berhadapan dengan Raja Jepara ini, terbukti dengan bebasnya Pulau Jawa dari Penjajahan Portugis di abad 16 itu.

Sebagai peninggalan sejarah dari perang besar antara Jepara dan Portugis, sampai sekarang masih terdapat di Malaka komplek kuburan yang di sebut sebagai Makam Tentara Jawa. Selain itu tokoh Ratu Kalinyamat ini juga sangat berjasa dalam membudayakan SENI UKIR yang sekarang ini jadi andalan utama ekonomi Jepara yaitu perpaduan seni ukir Majapahit dengan seni ukir Patih Badarduwung yang berasal dari Negeri Cina.

Ratu Kalinyamat yang berkuasa selama 30 tahun lebih, disamping pernah menyerang Malaka yang waktu itu dikuasai oleh kolonialisme Portugis sebanyak dua kali, juga telah terbukti berhasil membawa Jepara ke puncak kerjayaannya. Jepara berkembang menjadi bandar perdagangan terbesar di pesisir pulau Jawa. Pada era ini, kerajinan ukir mulai berkembang di Jepara. Salah satu bukti yang tak terelakkan adalah adanya ornamen di masjid Mantingan, di mana Pangeran Hadiri dimakamkan. Masjid yang dibangun pada pemerintahan Ratu Kalinyamat ini, panel-panel di dindingnya dihiasi dengan relief-relief berbentuk garis kurawal. Sedangkan motif hiasan yang dipilih dan dan terukir di sana berupa tumbuh-tumbuhan, bunga teratai dan hewan, gunung-gunungan, pertamanan, dan aroma kelelawar.

Menurut catatan sejarah Ratu Kalinyamat wafat pada tahun 1579 dan dimakamkan di desa Mantingan Jepara, di sebelah makam suaminya Pangeran Hadiri. Mengacu pada semua aspek positif yang telah dibuktikan oleh Ratu Kalinyamat sehingga Jepara menjadi negeri yang makmur, kuat dan mashur maka penetapan Hari Jadi Jepara yang mengambil waktu beliau dinobatkan sebagai penguasa Jepara atau yang bertepatan dengan tanggal 10 April 1549 ini telah ditandai dengan Candra Sengkala TRUS KARYA TATANING BUMI atau terus bekerja keras membangun daerah.

Ratu Kalinyamat kemudian digantikan oleh anak angkatnya yang bernama Pangeran Jepara yang berkuasa dari tahun 1549 sampai tahun 1599, saat mana ia harus mengakhiri kekuasaannya karena diserbu oleh Panembahan Senopati dari Mataram.

Setelah era kerajaan Jepara runtuh, diperkirakan terjadi kekosongan penguasa, sehingga sampai tahun 1616 tidak tercatat sejarah siapa yang memimpin Jepara. Baru pada tahun tersebut, Jepara tercatat dipimpin oleh Kyai Demang Laksamana yang kemudian digantikan berurut-urut oleh Kyai Wirasetia, Kyai Patra Manggala, Kyai Wiradika, Ngabehi Wangsadipa, Kyai Reksa Manggala, Kyai Waradika, Ngabehi Wangsadipa (jabatan kedua), Ngabehi Wiradika, Wira Atmaka, Kyai Ngabehi Wangsadipa, Tumenggung Martapura, Temenggung Sujanapura, Adipati Citro Sumo I, Citro Sumo II, dan Adipati Citro Sumo ke III yang sekaligus menutup sejarah era kerajaan Mataram di Jepara dan masuk pada era kekuasaan Belanda .

Namun pada masa transisi ini Blanda masih tetap memakai Adipati Citro Sumo III yang kemudian digantikan oleh Citro sumo IV, Citro Sumo V, dan Adipati Citro Sumo VI. Setelah Adipati Citro Sumo VI, Jepara kemudian dipimpin oleh Temenggung Cendol. Namun jabatan ini tidak lama, karena Setelah Adipati Citro Sumo VI kembali dari tuban tahun 1838, ia mendapatkan kepercayaan untuk menjabat sebagai Bupati Jepara yang kemudian di lanjutkan oleh Adipati Citro Sumo VII. Pada tanggal 22 Desember 1857, ia digantikan oleh iparnya yang bernama Raden Tumenggung Citro Wikromo, yang kemudian berturut-turut di gantikan oleh K.R.M.A.A. Sosroningrat, R.M.A.A. Koesoemo Oetoyo, dan Sukahar, sekaligus mengakhiri era kekuasaan Belanda dan masuk pada era pemerintahan militer Jepang. Pada awal kekuasan Jepang, Bupati Jepara dipercayakan pada R.A.A. Soemitro Oetoyo yang menjabat hingga awal kemerdekaan, yaitu hingga bulan Desember 1949.