1936年5月加入中国共产党,他是高中文化,当时的高中文化相当于现在的研究生了,他也算是政府中的知识分子了。
抗日战争爆发后,李瑞山同志积极参加抗日活动,1940年,他加入了西北青年救国会联合会,号召有志青年投身抗日救国,踊跃参加八路军的队伍,他的工作范围主要是在陕甘宁边区,由于他文化高,组织上让他从事抗日宣传工作,他工作勤恳,兢兢业业,为抗日宣传工作做出应有的贡献。
他在东北工作期间,担任过黑龙江北安中心县委组织部部长,克东,望奎县委副书记兼县委组织部部长。
到宁乡就任县委书记后,他积极率领县政府人员医治战争创伤,恢复经济,鼓励工农业生产,表现出了卓越的能力,为宁乡的社会主义发展呕尽心血。
此后,李瑞山长期在湖南工作,先后出任了湖南省益阳,常德地委副书记,书记,湖南省委农村工作部部长。
1954年10月,升任湖南省委组织部部长。
1955年6月,担任湖南省委常委。
1956年2月升任湖南省委副书记。
1956年6月至1966年9月,担任湖南省委书记处书记。
1957年4至11月担任省委秘书长兼长沙市委第一书记。
他在湖南工作期间,非常重视水利基础建设,牢记毛主席的教导;水利是农业的命脉,围绕这一精神,大力兴建水利设施,那个时间段,湖南省的水利设施建设如火如荼,现在仍然发挥着巨大的农田灌溉作用,与当年李瑞山的辛勤付出有很大的关系。
1966年8月份,他被调回家乡陕西省工作,离开了战斗17年的湖南,担任陕西省第二书记,他回陕西工作,正是文革的档口,他也受到了造反派的冲击,但他正确对待,坚信党不会冤枉好人。
1968年一1978年,李瑞山同志担任陕西省革委会主任(相当于现在的省长)。这一任命,充分说明党是充分信任李瑞山同志的。
1970年3月,他又兼任了省革委会党的核心小组组长。
1971年3月至1978年12月,担任陕西省委第一书记,成为陕西省真正的一把手。
陕西省宝鸡县峽引渭灌溉工程是全国最大的水利设施,当时就是李瑞山同志担任省委书记时修建的
他还经常到信访办拆阅群众来信,一旦反映的问题属实,他立即派人查办,使得干部作风有了很大的转变。
有一次,他从群众来信中看到群众反映说国营商店的售货员对待顾客态度恶劣,群众意见很大,他决定亲自到西安市商店暗访,以便找出针对的措施纠正行风。
售货员说道:“我见你这样的顾客见多了,都是只问价钱不买货的主,没事赶紧走吧!甭在这瞎耽误功夫。”
顾客说道:“你也太小看人了吧?我就问问你柜台上货的价钱,你就这么不耐烦?你有什么资格轰我们走?把你的领导叫出来,我要反映你的问题。”
这时,在一边静静观察的李瑞山走上前来说道:“你这位小同志做的不对,顾客是上帝,你对待顾客就要态度好一点。”
售货员翻了一眼李瑞山,抢白道:“哪又冒出你这个爱管闲事的老头,没你的事儿,赶紧呆一边去。”
李瑞山说道:“你这个小同志态度怎么这么恶劣,我看你该下课了。”
售货员大声嚷道:“看把你这老头能的,你还让我下课,告诉你,我这是铁饭碗,端国家的铁饭碗,谁也打不破?”
李瑞山气愤的说道:”把你们的领导叫出来”。
售货员理都不理,走到一边去了,其他顾客都看不惯售货员的行为,纷纷指责她,双方又吵在一起。
李瑞山说道:你们这个行业之风成问题,立即关门整顿,整顿期间不发工资,对于不好好工作,对顾客态度恶劣的售货员让她下课,什么时候你们商店整顿好了在恢复营业。”
说完,李瑞山和秘书转身走了,售货员吃惊的睁大了眼睛,不知所措。
经过整顿后的商店重新开业了,售货员们对顾客笑脸相迎,热情接待。
李瑞山书记听了汇报,整顿有了效果,他也开心的笑了。