據史料記載，農安古城始建于古夫余國，兩漢時曾是夫余國的都城。隋為高句麗夫余城。到唐朝是渤海國的夫余府。遼滅渤海后，改名為黃龍府，并設黃龍縣。關于黃龍府這個名字，有這樣一段傳說：

公元926年（遼天顯元年），遼太祖耶律阿保機率兵攻打渤海國，他們先占領了夫余城。正月，又長驅直入攻打渤海王城忽汗城（今黑龍江省寧安縣東京城），渤海王投降。二月改渤海為東丹，改年號天顯，改忽汗城為天福城。此后遼太祖又回師夫余城，并在這里住下養(yǎng)病。七月，遼太祖病重。某夜有一顆巨星落于太祖殿前。次日天剛亮，夫余城上空便有一條黃龍盤旋繚繞，身長一里多，渾身光芒四射，金光耀眼。后來黃龍鉆進了太祖住的行宮，頓時紫氣遮天，黑煙蔽日，經過一天時間才漸漸散去。不久太祖病故，終年55歲。從此遼將夫余府改為黃龍府。這段傳說當然不足為信，只是為了神化遼太祖，但黃龍府之名確是由此而來。

公元975年（遼保寧七年），黃龍府的衛(wèi)將燕頗反叛，殺了都監(jiān)張琚，遼派大軍平定了這起叛亂。戰(zhàn)火給古城造成了重創(chuàng)，隨后遼便放棄了黃龍府（農安），將黃龍府南遷至今四平市的一面城。自此古城降到了很不重要的地位。45年后，遼圣宗為了加強其東北部的防御力量，再次把黃龍府遷回古城（農安），為了避免重名，把一面城由黃龍府改為通州，把古城（農安）仍稱黃龍府。領益州、安遠州、威州、清州、雍州、黃龍縣、遷民縣、永平縣。興宗時于東北境伊通河地置懷德縣，為祥州治（今農安萬金塔鄉(xiāng)）。1037年（遼重熙六年），遼在黑龍江下游地區(qū)設節(jié)度使，統(tǒng)轄女真五國部，隸屬于黃龍府。此時是遼的極盛時期，當時黃龍府是各族人民雜居之地，人煙稠密，工商繁榮。

據史料載：“凡聚會處，諸國人語言不能相通曉，則各為漢語以證方能辨之?！弊渣S龍府遷回之后，遼就對黃龍府加緊進行建設，使黃龍府成為“五京二府”七大重鎮(zhèn)之一。黃龍府雄踞在伊通河西岸的高地上，呈正方形，城垣周長3 840米，四面除有大門外，在南、西、東三面還各有一個小門，四角各有一個高大的角樓。有名的農安古塔就是在這個時期修建的。該塔用磚砌成，八角13層，高33米余，是中國東北地區(qū)最早修建的佛塔，至今已有千年，仍矗立在古城農安。

古城黃龍府幾經毀棄，幾度繁華，演變?yōu)檗r安縣城。如今的城內，一座遼金寶塔賦予了縣城濃郁的歷史氣息，這座寶塔始建于遼圣宗太平三年(公元1023年)，已有千年歷史。塔是佛教的象征和產物，遼代篤信佛教。遼圣宗時期，經濟、文化、軍事等各方面，都發(fā)展到鼎盛時期。隨著佛教的盛行，遼代在興建城堡時，通常要大興寺院和佛塔，農安塔就是在這種特定歷史環(huán)境下修筑而成的。

金國建立以后，曾定都黃龍府，接著便不斷派兵進攻北宋政權，并于1126年（金天會四年）攻入開封，擄走徽、欽二帝。南宋初抗金英雄岳飛曾激勵部下，“直抵黃龍府與諸君痛飲耳”，即指此城。這段故事一直被傳為佳話。

據史料載：黃龍府雄踞在伊通河西岸的高地上，呈正方形，城垣周長3 840米，四面除有大門外，在南、西、東三面還各有一個小門，四角各有一個高大的角樓。

有名的農安古塔就是在這個時期修建的。該塔用磚砌成，八角13層，高33米，是中國東北地區(qū)最早修建的佛塔，至今已有千年，仍矗立在古城農安。

明朝末年，此處是蒙古族的游牧之地。清初為郭爾羅斯前旗地。乾隆五十六年（1791年），朝廷實行“招民實邊”政策，放荒招墾時，關內來此耕種的流民日漸增多，光緒八年（1882年），設立民署，屬長春廳。光緒十五年（1889年），正式設農安縣。

清朝建立后，在東北設置盛京、寧古塔、璦輝三將軍，管理東北三省，蒙古族居地則由清廷的理藩院直接管理。清乾隆五十六年（1791年），郭爾羅斯前旗招民興墾以后，關內流民不斷涌入， 大都來自山東省的登州、萊州、青州三府，多因當?shù)睾禎碁暮︻l繁，為了謀求生存，到關外來墾荒。那時，沒有火車，闖關東的流民，只能推著車子，載著干糧和衣物；有的挑筐、背簍，里邊裝著孩子，徒步行走。他們不畏艱險，背井離鄉(xiāng)，來到荒無人煙的蒙古族草原，開荒種地，搭房蓋屋，繁衍生息，成為黃龍府的開拓者。