次年，三边总制王越在红盐池取得了大捷，马文升亦有贡献，派遣其子马琇前往京城报捷，但经过廷臣的核查，马文升的功绩竟被认为报告不实，这显然是对事实的误解或是政治斗争的结果。明宪宗据此给予马文升“表奏不实，停俸三月”的惩罚，这不仅是一种误解，更是对一位忠心耿耿、屡建战功将领的不公。

尽管遭遇了不公，马文升并未因此消沉，反而更加坚定了他守卫边疆的决心。成化十一年（1475年）正月，他接替王越，总制各路兵马，全面负责延绥、宁夏、甘肃三边的军务，进一步巩固了西北防线。同年十一月，因其所展现出的卓越领导能力和显着的边防成效，马文升被调入朝中，升任兵部右侍郎，这一调动不仅是对其军事才能的认可，也是其职业生涯中的一个重要转折点，意味着他将有机会在更高层面上施展才华，为国家的军事安全和边疆稳定做出更大贡献。

四、整饬辽东

成化十二年（1476年）二月，马文升抵达京城，开始执掌兵部事务，其军事才能和对边疆事务的熟悉，使他在中央决策层中占据了重要位置。同年七月，面对日益严峻的边疆形势，尤其是蓟门至辽东一带的防御问题，马文升被朝廷委以重任，前往该地区整饬边备，强化防御体系。

然而，马文升在辽东的任期并不平静，他与当时的巡抚陈钺在处理辽东事务上产生了严重分歧。马文升在奏疏中直陈辽东问题，言语中不乏对陈钺政策的批评，这让两人之间的矛盾公开化。更为复杂的是，陈钺背后有当时权势熏天的太监汪直作为靠山，这无疑加剧了马文升在官场的孤立处境。

成化十四年（1478年），辽东局势因陈钺误杀女真贡使而进一步恶化，引发边疆动荡。汪直欲借此机会亲征辽东以树立个人威望，但遭到朝中明智之士如太监怀恩的反对，建议派遣朝中重臣前去安抚。马文升主动请缨，担此重任，成功安抚了建州女真与海西女真，展现了其处理民族关系的高超手腕。然而，马文升拒绝汪直派人同行的提议，这一举动无疑再次触怒了汪直，为他日后的不幸埋下了伏笔。

汪直利用其权势，与刑部尚书林聪等联合调查边疆事务时，故意将辽东的动乱归咎于马文升禁止边贸农器交易的政策，尽管马文升据理力争，但最终还是被下入诏狱，并被贬谪到重庆卫戍守，这一去就是四年之久。直至汪直失宠，马文升才得以恢复官职。

成化二十年（1484年），马文升再次被朝廷起用，以左副都御史的身份第三次赴任辽东巡抚。这一次，他的到来受到了当地士卒和民众的热烈欢迎，因为马文升曾公正地评论过陈钺的问题，其公正无私的形象在辽东深入人心，士卒们以鼓掌跳舞的形式表达对这位清官的欢迎与敬佩。

五、主持兵部

成化末年至弘治年间，马文升在明朝政坛上扮演了极其重要的角色，其在军事、民政和朝政改革方面的贡献，展现了他作为一位深具远见与执行力的官员形象。

成化二十一年（1485年），马文升被任命为都察院右都御史，负责总督漕运，并兼顾凤阳等地的巡抚事务。在淮、徐、和等地区遭遇饥荒时，他迅速调度江南粮银，有效缓解了灾情，显示了其处理紧急状况的能力。同年升任兵部尚书，但因宫廷政治的复杂，次年被调至南京兵部尚书，这背后有李孜省等人的暗中操作。

明孝宗即位后，马文升被召回中央，担任都察院左都御史，他针对当时流行的迷信活动，提出了一系列清理措施，旨在恢复朝纲正气。在弘治元年，马文升开始提督十二团营操练，针对军政废弛问题，他实施了严格的考核制度，罢免了数十名贪腐无能的将校，这一系列雷厉风行的改革虽然触动了一些人的利益，导致了针对他的威胁与诽谤，但孝宗皇帝给予了坚定支持，甚至增派护卫保护其安全。