Sekolah Menengah Heng Ee ditubuhkan pada tahun 1957 oleh Datuk Rev. Father. A. Julien. Datuk Rev. Father A. Julien pernah menyebarkan agama Kristian di Negara China sebelum beliau datang ke Pulau Pinang. Demi memberikan pendidikan kepada golongan Cina yang miskin dan golongan menjangkau umur persekolahan, beliau menubuhkan Sekolah Menengah Heng Ee.
Pada awalnya sekolah ini merupakan sebuah sekolah persendirian yang hanya meminjam sebuah kelas daripada Sekolah Convent Hindu di Jalan Pulau Pinang dan sebuah pondok di Jalan Pulau Tikus. Bilangan pelajar pada masa itu hanya lebih kurang 80 orang. Oleh sebab kebanyakan pelajar adalah miskin, maka mereka hanya dikenakan sedikit yuran sekolah.
Pada tahun 1961, gereja Katholik telah membeli sebidang tanah di persilangan antara Jalan Hamilton dengan Jalan Free School untuk pembinaan Sekolah Menengah Heng Ee persendirian.
Pada tahun 1967, blok empat tingkat yang pertama telah siap dibina. Kos pembinaan blok tersebut berjumlah RM 181 010.47. Blok ini terdiri daripada 18 buah bilik, sebuah kantin, sebuah bilik guru dan sebuah pejabat am. Pada tahun yang sama, Sekolah Menengah Heng Ee persendirian dibuka dengan rasmi. Kemudian sekolah ini mula menerima bantuan kerajaan dan ditukar menjadi sekolah menengah jenis kebangsaan tetapi sekolah persendirian masih dikekalkan untuk pelajar-pelajar yang melebihi umur persekolahan. Pada tahun itu, 280 orang pelajar baru bagi tingkatan satu telah mendaftarkan diri di Sekolah Menengah Jenis Kebangsaan Heng Ee. Memandangkan bangunan baru sekolah masih belum siap dibina, pihak sekolah terpaksa meminjam kawasan di sekolah rendah untuk membolehkan proses pengajaran dan pembelajaran dijalankan sehingga bangunan baru itu siap dibina pada penggal ketiga persekolahan pada masa itu.
Pada tahun 1969, blok kedua empat tingkat siap dibina. Blok ini terdiri daripada makmal sains, bilik pendidikan seni, pejabat serta bilik darjah. Pembinaan bangunan baru ini menelan perbelanjaan sebanyak RM 203 380. Pada tahun 1971, sebuah perpustakaan, tiga buah bilik darjah dan sebuah bilik guru telah didirikan.
Pada 09 September 2011, Bangunan Wawasan yang terdiri daripada lapan tingkat telah dibuka secara rasmi. Tingkat bawah merupakan Foyer Bangunan ini, perpustakaan baru dibina di tingkat kedua, tingkat ketiga terdiri daripada dua buah Dewan Serbaguna, tingkat keempat mengandungi tiga buah dewan kuliah manakala tingkat kelima, keenam, ketujuh dan kelapan merupakan bilik darjah Tingkatan Enam. Sebuah Bilik Mesyuarat juga didirikan di Tingkat kelapan. Selain daripada itu, tingkat atas bangunan ini juga dilengkapi dengan sebuah Pusat Penyelidikan Astronomi dan tempat rekreasi .
Pada masa ini, Sekolah Menengah Jenis Kebangsaan Heng Ee telah menjadi sebuah sekolah yang lengkap dengan segala kemudahan dan begitu terkenal di Pulau Pinang.