何石,字玉山,1895年出生于广东省潮州府普宁县南园村一个农民家庭。父母早丧,少年时给人看牛和到缝衣店当学徒,稍长在石料工场当打石工人。1913年,年方18岁的何石远走南洋,只身到马来西亚槟城寻求生计。在南洋做苦力和国内一样受顾主的欺凌,他怀着反抗的精神参加工会,与当地恶势力作斗争,结果被抓入狱,1921年被遣送回国。
他父母早丧,少年时给人放牛和在缝衣店当学徒,稍长当打石工人。1913年远涉重洋到槟城谋生。因参加工会与当地恶势力斗争而被捕入狱。1921年被遣回国。1923年,他回乡参加农会闹革命,协助澎湃派出的工作队开展工作。1926年1月,参加中国共产党,并任中共普宁支部支委,分管军事。同年5月1日,他出席广东省第二次农民代表大会,并被选为省农会第二届执委会候补委员。同年12月,担任普宁县农民自卫军基干大队大队长。此后,他主持训练农军骨干,加强农军队伍建设。1927年4月23日,与杨石魂等发起第二次攻打普宁县城的战斗,在围城打援中全歼国民党正规军一个连,威震粤东。由于敌强我弱,攻城失败。他带领20多人转移到大南山西部一带,开展游击活动。当“八一”起义军南下潮汕时,他迅速集结300多人的队伍,并于9月28日,在起义军协助下再次围攻普宁县城获胜,大展雄威。1927年冬,他担任大南山后方委员会主任,发动群众抗租抗债,开展土地革命,轮训各乡村赤卫队骨干。1928年四、五月间,敌集结几千兵力围攻大南山根据地,东江特委遭敌破坏,党组织损失严重。他克服一切艰难险阻,坚持革命斗争,独立带领一支小队伍活动于密林间坚持战斗。1929年7月中旬,潮普惠揭四县联席会议根据上级指示,将地方团队组建成中国工农红军第六军第十六师第四十七团,他担任团长。从此,带领部队紧密配合群众斗争,横扫大南山及其边缘各乡的民团据点,缴获了大批枪支弹药,巩固和发展了根据地。