Sebelum pembentukan JPT pada tahun 1932, semua kerja yang berkaitan dengan parit dan tali air menjadi tanggungjawab Jabatan Kerja Raya. Ekoran kemerosotan industri timah dan getah pada lewat tahun dua puluhan dan keadaan beras yang menjadi semakin runcing di negara ini, Pesuruhjaya Tinggi British pada waktu itu melantik Jawatankuasa Penanaman Padi pada tahun 1930 untuk menentukan "langkah terbaik yang perlu diambil bagi menggalakkan penanaman padi di Tanah Melayu"

Jawatankuasa ini telah membuat kajian yang menyeluruh dan menerbitkan laporannya pada tahun 1931. Salah satu saranan utamanya adalah "sebuah Jabatan Parit dan Tali Air hendaklah ditubuhkan untuk Negeri-Negeri Selat dan Negeri-Negeri Melayu Bersekutu dan penasihat di Negeri-Negeri Melayu Tak Bersekutu, yang akan menyerapkan Cawangan Hidraulik Jabatan Kerja Raya, Negeri-Negeri Melayu Bersekutu". Saranan ini telah diterima sebagai sebuah jabatan yang berasingan pada 1hb. Januari 1932.

Berikutan pembentukan Malaysia pada tahun 1963, Jabatan Parit dan Tali Air Negeri tambahan telah ditubuhkan di Sabah dan Sarawak dan ini menambah bilangan Jabatan-jabatan Negeri kepada tiga belas dengan Ibu Pejabat Persekutuan dipertanggungjawabkan dengan hal ehwal parit dan tali air keseluruhan negara ini. Peningkatan yang besar dalam pembangunan selepas tahun 1957 dibayangkan dengan kawasan yang disediakan dengan kemudahan pengairan yang meningkat daripada 205,000 hektar (3,000 hektar dengan kemudahan penanaman dua kali setahun) kepada 332,000 hektar (249,000 hektar dengan kemudahan penanaman dua kali setahun) menjelang akhir tahun 1981.

Sejak tahun 1986, kejuruteraan pinggir laut telah menjadi satu lagi fungsi tambahan JPS. Jabatan ini yang berada di bawah arahan Kementerian Sumber Asli dan Alam Sekitar, selama bertahun-tahun ini telah memikul tanggungjawab yang baru dan tanggungjawab yang diperluaskan. Kini, tugas-tugas JPS merangkumi Pengurusan Lembangan Sungai dan Zon Pantai, Pengurusan Sumber Air dan Hidrologi, Projek Khas, Pengurusan Banjir dan Saliran Mesra Alam.