В XIX веке на этом месте существовала деревня Яблоновка. В конце 1880-х годов там была организована городская свалка, куда свозили мусор со всего правого берега Невы. Она постепенно разрасталась и вскоре поглотила деревню. В таком виде свалка просуществовала до 70-х годов XX века, пока не началась застройка близлежащей территории жилыми домами.

В 1985 году был подготовлен проект преобразования свалки в городской парк. В течение 2-х лет на курганах были уложены дорожки. На самом высоком кургане предполагалось установить памятник латышским стрелкам, однако, в 90-е годы все планы рухнули.

В январе 2012 года началась застройка территории кургана, не входящая в состав официального Яблоновского сада — на Российском проспекте. Там предполагалось создать перехватывающую парковку. Жители выступили против.

Весной 2012 года жители окрестных домов и активисты-экологи провели ряд акций, направленных на превращение кургана в сад: убран и вывезен мусор, посажены деревья. В 2015 году на этом же месте началось строительство нового спортивного комплекса. Также предполагалось в части парка около улицы Ворошилова сначала создать снегоплавильный пункт, затем — храмовый комплекс.

В декабре 2015 года Яблоновский сад был включён в список зелёных насаждений.