房彥謙出生于公元547年，一生先后經歷了東魏、北齊、北周和隋四個王朝的更替換代。
房氏原籍清河。到房彥謙七世祖房湛時期，因為做過燕國的太尉椽，隨著南燕國遷都青州，也把家人帶到了齊地。今濟南市歷城區(qū)在南北朝隋唐時期屬于齊郡。從此以后，房彥謙一直就把歷城當作了自己的故鄉(xiāng)。
從十六國到房彥謙時，200多年間，歷城房氏家族幾乎一直都為官從政，房彥謙曾祖父是齊郡和平原郡的太守，祖父則做過南朝宋的太守，父親從州主薄(相當于今天的秘書長)起家，也做到了郡守的職務。
大家族的文化熏陶和動蕩的政局變換，鑄就了他的清正品格和嫻熟的從政能力，18歲時，他就擔任了家鄉(xiāng)齊郡的主薄，并一直在政府任職，40歲時被郡守舉薦進京，做了監(jiān)察御史，職責是“分察百僚，巡按郡縣，糾視刑獄，肅整朝儀”。
其職責既像今天的紀律監(jiān)察干部，還兼具司法監(jiān)督和整治朝廷風氣的責任。官品雖然不高，權力卻也不小。后遷為河南長葛縣令，在全國官員考核中，因其清正廉潔，被評為“天下第一”，并因此而晉升郡司馬(州郡軍事官員“二把手”)。
史書記載，當他離職高升之時，地方百姓攔路挽留，并為其立碑頌德。隋大業(yè)九年(613年)，隨從皇帝到遼東，擔當了一陣扶余道(今東北地區(qū))監(jiān)軍。后來，因過于耿直，得罪了權貴，被遷為涇陽縣令，69歲病逝于任上。
房彥謙為官清廉，所得俸祿大多周濟了同事親友，以至于史書稱其為“家無余財”。他曾經和其子房玄齡說過：“人皆因祿富，我獨以官貧，所遺子孫，在于清白耳?！彼倪@種高風亮節(jié)得益于他的人生經歷，雖然他出自名家士族，但他幼年時期生父就亡故，15歲過繼給叔父，繼母去世時，他絕食五日，以示孝心。
在家中，凡有時鮮果蔬父輩不吃，他絕不先嘗，其孝行名揚鄉(xiāng)里。同時，他也十分好學上進，7歲時就讀過萬言書，長大后，還擅長書法藝術。可以說，中國傳統(tǒng)文化給了他以深厚的影響，因此，他也能夠培養(yǎng)出房玄齡這樣的一代名相，大唐重臣。
公元631年，經唐太宗恩準，房彥謙的靈柩由其子房玄齡遷葬回歷城故里祖墳，朝廷追贈其為“徐州都督、臨淄縣公”，并特派了官方的鼓樂儀仗隊從洛陽護靈到歷城，靈柩所過州縣費用不足部分均由地方政府資助祭奠，同時國家還動用了千余士兵為之送葬，親朋友好參加遷葬儀式的有2000多人。
這次遷葬可以說是唐朝初年一件盛事，轟動全國。房彥謙墓在今濟南市歷城區(qū)彩石鄉(xiāng)趙山之陽,墓葬現(xiàn)存墓冢、墓碑和部分石獸，其墓碑由當時的歷史學家李百藥撰文，書法家歐陽詢所書。該墓1977年被公布為山東省省級重點文物保護單位。李百藥是24史中《北齊書》的作者。李百藥撰寫碑文的時候擔任著太子右庶子，66歲。
歐陽詢則是隋唐時期的著名書法家，他所創(chuàng)立的書體被稱為“歐體”。他和當時的虞世南、褚遂良、薛稷并稱唐初書法“四大家”。歐陽詢書寫碑文的時候已經74歲。兩位花甲之人應邀為房玄齡的父親撰文書丹，從另一個角度表明了房彥謙靈柩遷葬的隆重。
房彥謙墓位于彩石鎮(zhèn)西彩石村北的趙山之陽，濟王路南側。墓封土高5米，直徑17米。房彥謙是唐貞觀年間宰相房玄齡之父，生于公元547年，卒于公元615年，原籍河北清河，其七世祖移居臨淄。他貫通經義，長于吏治，曾任北齊齊州主簿。隋開皇中，曾任監(jiān)察御史、長葛令、超授都州司馬等。隋煬帝即位，去官隱居，后征授司隸刺史，出任涇陽令。
據(jù)說，當時葬禮極為隆重，天下臺臣，九州官府，皆不遠千里前來致祭，冠蓋相接，旌旗蔽空，車馬塞路，彩石一帶，井水飲盡，野無青草。墓前原有麒麟、翁仲等石雕依序分列，現(xiàn)僅存石羊、石馬。墓前“唐故徐州都督房公碑”，由唐初中書舍人、著名學者李百藥撰文，洋洋千言，典雅瑰麗(現(xiàn)山東省圖書館存有此文)。碑文由唐朝著名書法家歐陽洵所書。
碑文是露鋒的隸書，字形峭削，筆力遒勁，為省內僅有的初唐書法石刻珍品。1980年，為保護該碑修建磚砌碑樓。該墓于1977年12月公布為省級重點文物保護單位。
房彥謙墓碑現(xiàn)存地面以上部分高300厘米，寬130厘米，厚40厘米，由碑首、碑身和碑高組成，碑首和碑身由一塊完整的巨石琢成，碑額是篆書，3行9字：“唐故徐州都督房公碑”，碑文正面36行，2000多字，主要內容是褒揚房彥謙家世、履歷及其為人的高風亮節(jié)。
因為李百藥父子和房彥謙、房玄齡同時在朝為官，所以對房彥謙的歷史以及功業(yè)了如指掌，加上房玄齡的因素，碑文自然難免有溢美之詞，所以，在碑文最后部分，李百藥以“四字一句”的大段篇幅對房彥謙進行了歌頌。
碑陰文字則主要是記述了遷葬和唐王朝對遷葬活動的重視和支持，以彰顯房彥謙的身份和地位。像這樣碑陽碑陰甚至碑側都鐫刻文字的人物碑，為我們了解唐代碑文的寫作格式和文法以及鐫刻形式等等提供了重要的實物證據(jù)。這篇文章因此還被后人收入《全唐文》。