杨震字伯起，弘农华阴(今属陕西)人。出身于官宦世家，八世祖杨喜，在西汉高祖时曾封为赤泉侯。杨震自幼好学不倦，后来博览群经，被当世儒生誉为“关西孔子杨伯起”。他淡于名利，50岁时才应大将军邓骘之辟。后举茂才，担任过荆州刺史、东莱太守。他莅郡赴任时，路过昌邑。昌邑令王密原在荆州时被杨震举为茂才，为答谢他的知遇之恩，特地于昏夜以黄金十斤馈遗。杨震当即拒绝。王密以为暮夜无人知晓此事，劝杨收下。杨震说：
天知，神知，我知，子知，何谓无知？
王密自觉羞愧，怀金退出。
杨震不但洁身自好，而且力图澄清当时官场贿赂公行的污浊空气。永宁元年(120)，他升任司徒。司徒身为三公，地位尊祟。当时，安帝乳母王圣缘恩放恣，其子女伯荣出入宫掖，交通奸赂。杨震于是上疏抨击，并且提出“政以得贤为本，理以去秽为务”。要求安帝“绝婉娈之私，割不忍之心，留神万机，诫慎拜爵，减省献御，损节征发。”
延光二年 (123)，杨震迁任太尉。帝舅大鸿胪耿宝，皇后之兄执金吾阎显等人，仗势向杨震举荐亲戚故旧为官，均被拒绝。中常侍樊丰等人分威共权，嘱托州郡，倾动大臣，宰司则承其旨意，广招贪污之人，以至贿赂公行。杨震又屡次上疏予以抨击。