蔣濟年輕時與胡質及朱績在江淮地區知名，曾任楚國計吏，後轉任揚州別駕。建安十三年（208年），孫權率軍圍困合肥，當時曹操派張喜領兵救援，但因疫病而誤期。等候個多月後，蔣濟假稱得到張喜的書信，說張喜快到，並故意讓孫權獲得書簡。孫權中計，於是撤軍，成功為合肥解圍。次年蔣濟為揚州出使到譙縣，曹操見蔣濟時向他透露打算遷淮南的民眾，詢問意見；蔣濟雖然認同孫權會乘曹操在赤壁之戰兵力大耗而擄掠淮南人民及土地，但認為人民眷戀原居的土地，並不願意遷徙，一旦下令遷移會令他們恐懼不安，不同意徙民。曹操及後仍然下令遷移江淮十多萬人，令他們都逃到吳境。後蔣濟出使到鄴城，曹操因他對徙民的見解而對他甚為欣賞，任命他為丹陽太守。後又復任揚州別駕，更下令：「季子為臣，吳宜有君。今君還州，吾無憂耳。」當時有平民誣告蔣濟策劃謀反，但曹操卻斷定是假的，可見曹操對蔣濟的信任。蔣濟後被辟為丞相主簿西曹屬。
建安二十四年（219年），關羽擊敗前往援救曹仁的龐德和于禁，並圍困襄陽和樊城，一時銳不可擋。曹操見許昌與近荊州，有意讓漢獻帝從許昌遷都。蔣濟和司馬懿卻勸阻，更建議讓已對關羽甚為不滿的孫權襲取荊州，從而解除對襄樊的圍困，曹操最後接納。而孫權此時卻主動請戰，並命呂蒙襲取荊州，更擒殺關羽，成功解襄樊之圍。建安二十五年（220年），曹丕繼任魏王，蔣濟任相國長史。同年曹丕稱帝，蔣濟出任東中郎將。後又入為散騎常侍。
黃初三年（222年），曹丕大舉攻吳，蔣濟與大司馬曹仁征伐東吳，進攻濡須口，蔣濟並領兵攻羨谿用以分散吳軍4。當時曹仁打算攻取東吳濡須督朱桓的兵士妻兒所在的中州，蔣濟認為進攻江中州島危險，易被敵軍擊破，提出反對，但曹仁不聽，最終果然被擊敗，及後因有疫病而撤軍。曹仁戰後旋即逝世，蔣濟再任東中郎將代領曹仁的軍隊。後來又被徵任為尚書。黃初六年（225年）冬季，曹丕親自領水陸軍隊到廣陵，臨江閱兵，打算進攻東吳。身為揚州人的蔣濟認為水道會有阻塞，不利行軍，更作《三州論》勸諫，但曹丕不聽，最終戰船都因河道結冰而不能前進。有人建議在當地屯田，蔣濟又以當雨季水漲時容易被東吳軍隊掠奪屯田物資而反對，曹丕都聽從，因而撤退。後曹丕又將之前滯留的船隊交給蔣濟，蔣濟開既鐅河道又阻截導流河水，成功將船隻導到淮河中。
太和元年（227年），曹叡繼位，蔣濟獲賜爵關內侯。太和二年（228年），大司馬、揚州牧曹休被東吳鄱陽太守周魴所誘，率兵進攻皖城，蔣濟認為曹休這次深入東吳，與東吳精兵對抗，而且駐守上游的朱然會從後襲擊，建議不要進攻；但曹休還是繼續前進。及後東吳大都督陸遜領兵迎擊曹休，蔣濟見吳軍有東進之勢，又建議快派援兵援救曹休。不久曹休被擊潰，丟棄大量軍需品後撤，並被東吳進至夾石，在夾石還到援軍才阻住了東吳的追擊。蔣濟後獲升任中護軍。後又遷任護軍將軍，加散騎常侍。太和六年（232年），曹叡打算命平州刺史田豫循海路、幽州刺史王雄循陸路，一起進攻遼東公孫淵，蔣濟卻認為公孫淵尚未有叛亂之心，而且不是大的問題；今天若果攻打，即使攻克也不見得獲得太多好處，反而一旦失敗，會招至公孫淵怨恨。曹叡還是派田豫等進攻，但失敗。
正始元年（239年），曹芳繼位，轉任領軍將軍，封昌陵亭侯，不久升任太尉。正始十年（249年），太傅司馬懿與曹爽奪權，於是發動高平陵之變，蔣濟參與兵變，駐兵洛水浮橋。其間桓範出城投奔曹爽，蔣濟則認為桓範雖然聰明，但曹爽一定會因只顧家室而不圖遠謀，不接納桓範的計謀；蔣濟又寫信給曹爽，稱司馬懿只是免除其政治權力罷了，勸告他盡早交出權力投降。最終曹爽都自願交出權力並回到洛陽的府中，但及後即被指控謀反，曹爽被滅族。事後蔣濟獲進封都鄉侯。但蔣濟因為對曹爽失信，上書拒絕封賞，但不被准許；同年發病去世，諡景侯。