Politeknik Kesehatan Kemenkes Semarang pada awalnya merupakan penggabungan dari 11 (sebelas) Akademi Kesehatan milik Departemen Kesehatan RI di Propinsi Jawa Tengah, yaitu Akademi Keperawatan Depkes Semarang, Purwokerto, Pekalongan, Blora dan Magelang, Akademi Kebidanan Depkes Semarang dan Magelang, Akademi Gizi Depkes Semarang, Akademi Teknik Radiodiagnostik dan Radioterapi Depkes Semarang, Akademi Kesehatan Gigi Depkes Semarang serta Akademi Kesehatan Lingkungan Depkes Purwokerto yang selanjutnya menjadi Jurusan dan Program Studi di lingkungan Politeknik Kesehatan Depkes Semarang
Politeknik Kesehatan Depkes Semarang didirikan berdasarkan Surat Keputusan Menteri Kesehatan dan Kesejahteraan Sosial RI Nomor 298 / MENKES-KESOS / SK / IV/ 2001 tanggal 16 April 2001 dan terakhir diubah dengan Peraturan Menteri Kesehatan RI Nomor 890/ MENKES/ VIII/ 2007 tanggal 2 Agustus 2007 tentang Organisasi dan Tata Kerja Politeknik Kesehatan. Berdasar surat dari Sekretariat Jenderal Kementerian Kesehatan RI Nomor TU 05.02/II/II/1535/2010, tanggal 18 Pebruari 2010 tentang Perubahan Nomenklatur Departemen Kesehatan RI menjadi Kementerian Kesehatan RI, maka Politeknik Kesehatan Depkes Semarang berubah menjadi Politeknik Kesehatan Kemenkes Semarang.
Dalam perkembangannya, sejak tahun 2005 Politeknik Kesehatan Kemenkes Semarang membuka program studi baru dan kelas unggulan (terdiri dari Program Studi Diploma III Keperawatan, Kebidanan, Teknik Radiodiagnostik dan Radioterapi, dan Kesehatan Gigi) dan program studi baru meliputi Program Studi Diploma IV Teknik Radiologi Semarang, Diploma IV (program transfer) Keperawatan Klinik Semarang meliputi: Kemahiran Medikal Bedah, Kemahiran Kegawat Daruratan dan Kemahiran Kardiovaskuler. Selanjutnya berturut-turut dibuka Program Studi Diploma IV Bidan Pendidik Semarang, Diploma IV Gizi Semarang, Diploma IV Kesehatan Lingkungan Purwokerto, Diploma IV Kesehatan Gigi Komunitas Semarang, Diploma III Kebidanan Purwokerto, Diploma III Teknik Radiodiagnostik dan Radioterapi Purwokerto dan Diploma IV Kebidanan Komunitas Magelang. Pada tahun Akademik 2009/2010 dibuka Program Studi Diploma IV Keperawatan Jiwa Magelang dan Jurusan Analis Kesehatan.
Adapun pada tahun akademik 2012/2013, dibuka Prodi Kebidanan Blora dan Prodi D IV nol tahun/non transfer (dari SMA) Keperawatan Gigi, D IV Teknik Radiodiagnostik dan Radiotherapy dan D IV Kesehatan Lingkungan. Pada tahun akademik 2013/2014, dibuka Jurusan Rekam Medis dan Informasi Kesehatan dan D IV (non transfer) Kebidanan Semarang.
Pada tahun 2015, Poltekkes Kemenkes Semarang dipercaya sebagai satu-satunya Politenik Kesehatan Kementrian Kesehatan yang dapat membuka Program Pasca Sarjana (S-2 Terapan). Adapun Program Studi yang dibuka meliputi: Program Pascasarjana Magister Terapan Keperawatan, Kebidanan, Imaging Diagnostik. Pada tahun 2016, dibuka lagi untuk Program Studi Terapis Gigi dan Mulut