1932年5月，中共陕西省委在甘肃宣慰使署警备第三旅中发动了一次起义，史称“靖远起义”。甘肃宣慰使署警备第三旅是以苏雨生部王子元团为基础组建的。王子元任旅长，共产党员张东皎任副旅长。张东皎根据陕西省委和陕北特委的安排，于1929年就进入王子元团从事兵运工作。该旅的参谋主任孙作宾、副官主任李罕言、军法主任王儒林、教导队队长苏士杰（苏醒民）、执法队队长石子健、第二团团长牛化东、第一团一营营长吕振华等均为共产党员。1932年初，在中共陕西省委的领导下，先后在该旅组建了中共校官支部、中共士兵（含尉官）支部和该旅教导队中的中共特别支部、该旅第二团中的中共团委员会等党的秘密组织。

　　同年4月28日，谢子长根据陕西省委的安排，来到靖远开展兵运工作。与谢子长同来靖远的还有陕西省委委员焦维炽。随后，谢子长和焦维炽与该旅中共秘密组织取得了联系，并对第二团中的中共团委员会进行了改组，由焦维炽任书记，张秀山等任委员。

　　在对第二团中共团委员会改组后，谢子长和焦维炽召开团委会议，传达了陕西省委关于马上发动起义的指示，并初步讨论了起义计划。正当起义积极筹备之际，第三旅旅长王子元于5月4日突然扣押了张东皎和军法主任王儒林。由于情况紧急，第一团一营营长吕振华于5月5日傍晚率领该营和教导队各一部共200余人在靖远宣布起义。起义部队到达打拉池后，按原计划宣布成立中国工农红军陕甘游击队第四支队，谢子长、焦维炽分别任总指挥和政委，由吕振华代理总指挥一职。下设两个大队，第一大队大队长曹炳奎，第二大队大队长张秀山。随后，起义部队行进到朗山台子附近时，被王子元派来的追兵打散，张秀山被俘。时任该旅参谋主任的孙作宾利用张秀山曾救过王子元的关系，对王子元晓以“义气”，张秀山得以释放，离开靖远。同年秋，张秀山被陕西省委派往上海中央局“受训”，回到陕西后，于同年11月被派往陕甘游击队工作。