1917年考入保定陆军军官学校第六期步科,为十连学员,同期学习的有薛岳、顾祝同、黄镇球、余汉谋等。
1919年毕业后,任山东第五师步九旅少校参谋,后升为直鲁联军第十七军九十八旅中校主任参谋。
1928年5月调转沈阳东北讲武堂任兵器教官。讲武堂由张学良亲任监督。
1931年“九·一八”事变后,讲武堂停办。其随部到北京,任张学良公署参议处上校视察员。
1933年4月,在华北军第一军团于学忠部供职,任平津卫戍区司令部中校科长。
1935年任于学忠部第五十一军军械处中校主任,后随部进驻西安。
翌年,“西安事变”中,五十一军参与扣留蒋介石及其随人员行动。冉宪文意志坚决,怀着对祖国山河的热爱和对日军的仇恨参与了“扣蒋”行动。
1937年之后,随军参加了津蒲路南段战役、徐州会战、台儿庄战役、武汉会战(武汉保卫战)。其多次临前线作战,勇敢顽强,受到上级嘉奖。
1941年冬,调任为中央陆军军官学校八分校(亦称黄埔军校八分校)上校兵器校官。因当时学员多而教官少,教学任务相当繁重。其除任本科教学外,还兼任其他学科教学。不论份内外,其训育学员态度严肃认真,一丝不苟,得到校方及学员的赞誉。为抗击日军侵略培养了大批勇敢战士。