陳霸先在幼年時，雖然家境貧寒，但卻胸懷大志。
等到成年之后，其涉獵史籍，尤其喜歡閱讀兵書，還通曉緯候、孤虛、遁甲之術。
同時還練就了一身武藝，為人明達果斷，當時的鄉里都十分推崇他。
據說他身高七尺五寸，額頭隆起，手長過膝，有帝王之相。
一開始在鄉中為里司，后來到了建鄴，做了油庫吏。
梁武帝大同初年（535年），宗室蕭暎很看重陳霸先，曾說陳霸先此后必定前程遠大。
大同六年（540年），蕭暎任廣州刺史，陳霸先隨從擔任參軍。
蕭映令陳霸先招集軍士、集結戰馬，人數達到千人，仍命陳霸先駐守宋隆郡。
陳霸先所部安化二縣并不服從南梁的管轄，于是率兵平定，不久就被加官晉爵。
大同七年（541年），交州土豪李賁發起叛亂，趕跑了交州刺史蕭諮。
大同八年（542年）春，梁武帝遣將討伐，林邑國國王也從腹背襲擊李賁。
大同九年（543年）四月，李賁部將范修在九德大破林邑王，梁征討諸軍也不知所終。
自此李賁控制了整個北越，就在大同十年（544年）正月仿梁朝制度，自稱越帝。
梁武帝又命盧子雄、孫冏火速出兵，并受蕭暎和蕭諮節制。
因戰事不利，梁武帝誤以為盧、孫二將與李賁私下里有往來，敕令在廣州賜死。
盧子雄舊將杜天合、杜僧明等人，因此發動兵變，率兵包圍了廣州城。
陳霸先在高要聞報，率三千精兵，日夜兼程，火速救援，一戰而解重圍，杜天合、杜僧明等叛將被擒。
大同十年（544年）冬，蕭暎在廣州病亡。
次年（545年），陳霸先護喪返回京師建康。
走到大庾嶺之時，梁武帝下詔任命陳霸先為交州司馬，領武平太守，隨新任交州刺史前往交州討伐李賁。
陳霸先返回廣州，召聚將士，備辦軍資，并與征討大軍于十二月抵達交州。
當時，蕭勃為定州刺史，與陳霸先等在西江相會。
因為蕭勃深知軍士們都害怕遠征，所以想辦法用錢財來誘楊蒨。
于是，楊蒨召集諸將詢問對策，陳霸先認為——交趾的叛變完全是宗室的罪過，造成叛亂遍及數個州縣，歷時數年，勞師糜餉，蕭勃又只顧及眼前的利益，完全不顧國家大計。
陳霸先指出應該奮起平叛，不用顧及宗室的利益，于是領兵擊鼓進擊。
大同十一年（545年）六月，陳霸先平叛大軍到達交州，李賁率軍數萬在蘇歷江口設下城柵抵擋梁軍。
楊蒨推薦陳霸先所部為前鋒，陳霸先率軍大破李賁的戰陣，李賁逃到了典澈湖。
李賁在屈獠界設置營寨，大造船艦，阻擋在典澈湖中。
梁軍十分忌憚，停駐在湖口不敢進兵。
陳霸先對將領們說：“我們的軍隊已經耗時良多，將士疲勞，長時間相持，這恐怕不是好辦法。況且孤軍無援，進入了敵軍腹地，如果一次不能取勝，又怎能保全自己。如今不如接著李賁多次遷移逃跑，人心沒有穩固，當地夷民拼湊而成一軍，很容易摧垮，如果此時不去戰勝他們，此后將找不到這么好的時機了。”
諸將都不知道說些什么，因此沒有回應他的。
當天夜里，江水漲起了七丈，大水進入了湖中。
陳霸先率領所部兵馬，趁水漲之機搶先進攻，眾軍擊鼓與叫喊聲成為一片，李賁叛軍大潰。
太清元年（547年），李賁逃竄進入屈獠的洞中，屈獠斬殺李賁，傳首京師。
李賁之兄—李天寶逃入九真，與匪首李紹隆聚集剩余的二萬兵馬，殺陳文戒，進圍愛州，陳霸先再次率軍平定叛軍。
太清二年（548年）八月，東魏降將侯景舉兵反梁，侯景之亂爆發。
同年冬，侯景攻破京師臺城。
次年，梁武帝病餓而亡。
陳霸先將要率兵赴援，但廣州刺史元景仲暗地里心懷異志，想要對陳霸先不利。
陳霸先知道元景仲的圖謀，便與王懷明、殷外臣等秘密商議實行戒嚴。
太清三年（549年）七月，陳霸先在南海召集兵馬，快馬傳檄以討伐元景仲。
元景仲最后兵敗被縊殺，陳霸先迎宗室蕭勃到廣州鎮守。
當時，歐陽頠在衡州，蘭裕、蘭京禮煽動始興等十郡一起舉兵攻打歐陽頠，歐陽頠難以抵擋遂向蕭勃請援。
蕭勃令陳霸先率兵前往救援，陳霸先擒拿了蘭裕、蘭京禮等眾人。
十一月，陳霸先派杜僧明、胡穎率領二千人駐扎在嶺上，并以厚禮結交始興的豪杰一起聚義旗，侯安都、張偲等率千余人歸附陳霸先。
鎮守廣州的梁宗室蕭勃，聽說陳霸先想要起兵討伐侯景，便派鐘休悅前去勸說陳霸先。
蕭勃無意討伐，陳霸先只好遣使往江陵，投到蕭繹帳下，受其節制。
大寶元年（550年）正月，陳霸先大軍從始興出發，抵達大庾嶺，擊敗奉蕭勃之命在南野攔截的蔡路養，乘勝進駐南康。
此后近一年半時間，陳霸先與響應侯景的李遷仕在南康一帶展開了拉鋸戰，最終擒斬李遷仕。
大寶二年（551年）六月，發兵南康，沿贛江北下。
陳霸先發兵南康時，戰局發生了轉變，蕭繹部下大將—王僧辯、胡僧祐、陸法和等在巴陵、郢州一帶擊敗侯景主力，叛軍大將任約、宋子仙被擒，侯景從攻勢轉為守勢。
大寶二年（551年）八月，陳霸先準備與蕭繹部下王僧辯會師。
由于陳霸先名聲在王僧辯之上，故王僧辯心存畏忌。
當時，王僧辯等西路各軍正好缺糧，情勢不妙，而陳霸先已貯有軍糧五十萬石，陳霸先迅速饋送三十萬石給西路各軍，打消了王僧辯的顧忌，也在西路各軍中贏得了威信。
當時侯景廢掉簡文帝蕭綱，立蕭棟為帝，陳霸先聞訊派長史奉表去江陵向蕭繹勸進。
大寶三年（552年）正月，陳霸先南路征討大軍從豫章出發。
這時已有甲士三萬人，強弩五千張，舟艦二千艘，水陸俱下，另有前軍五千由驍將杜僧明統領，已抵達湓口。
二月，王僧辯等西路大軍又從尋陽起行，在白茅灣與陳霸先會師。
王僧辯與陳霸先登壇設誓，締結盟約，征討大軍沿路攻克蕪湖、姑熟。
三月，兩軍在建康與侯景展開了大決戰，終于徹底摧毀了侯景勢力，侯景被殺。