积极参加当地学生的“五四”“五卅”等爱国运动。1926年秋加入中国共青团。当年冬受党派遣到确山县从事农运。1927年2月任确山县农民协会执委会委员长兼县农协自卫军总指挥。4月，带领两万农军攻下县城，建立了人民政权——确山县临时治安委员会，被选为常务委员会代主席，主持县政，一直坚持到7月。5月，加入中国共产党。11月带领农军在刘店暴动成功，任农军总指挥，并率农军转战豫南，开辟了以刘店为中心的方圆百余里的游击区。
杨靖宇先后5次被捕，直至“九一八”事变后，经组织营救才得出狱。出狱后先后任中共哈尔滨市道外区委书记、哈尔滨市委书记等职，同时还任东北反日总会党团书记。1932年4月兼任中共满洲省委军委书记。1933年6月调到南满工作。当年9月18日成立东北人民革命军第1军独立师，杨靖宇任师长兼政治委员。第1军独立师发展很快，于1934年11月正式扩编成军，杨靖宇任东北人民革命军第1军军长兼政治委员，积极联合其他抗日武装，开创联合作战的新局面。1936年7月，东北人民革命军第1军改编成东北抗日联军第1军，杨靖宇任军长兼政治委员。随后第1军与第2军合编成东北抗联第1路军，杨靖宇任第1路军总司令兼政治委员，同时任中共南满省委委员。
从任独立师师长兼政治委员到第1路军总司令兼政治委员期间，他带领抗联指战员战斗在东北抗日游击战争的最前线，曾率部全歼伪军邵本良部，威震南满；为打通与关内红军的联系，两次组织西征；指挥袭击通缉铁路隧道工程现场以及蚊子沟之战、埋财沟之战、岔沟突围战、木箕河林场之战、大蒲柴河之战等，沉重地打击与威胁了日伪统治。“七七”事变后，又率领抗联第1路军英勇征战，主动出击，牵制日军入关，有力地支援了全国抗战。1938年冬之后，又根据形势的恶化及时改编部队，调整战略战术，带领抗联将士克服重重困难，在长白山区艰苦奋战，直至1940年2月23日在漾江县牺牲。