中共陕西省委在组建中共陕甘边特委的同时,也密切关注着陕甘边区游击队的领导和统一指挥工作。1933年3月7日,陕西省委向红二十六军政委兼红二团政委杜衡和红二团党委发出指示信,要求:“红二十六军应即成立一指挥部,指挥边区耀县、宜君一带的游击队,积极开展游击战争,在指挥部之下应有一中心部队,作为生长成正式红军的骨干。”根据陕西省委的指示,3月中旬,陕甘边游击队总指挥部在照金镇兔儿梁正式成立,李妙斋任总指挥,习仲勋任政委。此后,黄子文、吴岱峰先后接任总指挥,张秀山接任政委。
陕甘边游击队总指挥部成立后,加强了对边区游击队的领导,并从政治上、组织上进行了彻底整顿,先后遣散了一批纪律涣散、成分不纯的人员,建立起政治工作制度。通过开展阶级教育和纪律教育,提高了游击队的政治素质与军事素质。陕甘边特委和游击队总指挥部还大力进行武装群众的工作,在各区、乡、村普遍组建了农民赤卫军和少年先锋队,他们在站岗放哨,肃清敌特,维护革命秩序,保卫斗争成果,配合红军、游击队开展游击战争上发挥了重要作用。为了保卫根据地,游击队总指挥部还发动群众在薛家寨据险筑堡,扼要置关,改造山寨,整修岩洞,建成防守严密的红军后方基地,先后设立了红军医院、被服厂、机械所、仓库等后勤单位和关押豪绅地主的监狱。
陕甘边游击队总指挥部的成立,使边区游击队和武装斗争的发展,进入了一个新的阶段,也为陕甘边革命委员会的重新建立提供了重要的保障。