黄初七年（226年），曹叡即位，即魏明帝。因六年“东宫之旧”，毋丘俭深受明帝信赖，仕途平步青云，先后任尚书郎及羽林监，洛阳典农中郎将。作《承露盘赋》、《承露盘铭》，曾与雍丘王曹植一同为汉朝名器铜仙承露盘题文刻字，声明雀起之后，先后结识夏侯玄、嵇康等名士。

适逢汉相诸葛亮北伐，明帝大兴土木，高柔、王朗等群臣纷纷进谏劝阻，毋丘俭亦在其中，指出：“依臣愚见，天下应最先消灭的是吴、蜀二贼，最应寻求的事是丰衣足食。今，吴、蜀二贼没有被消灭，且百姓仍处于饥寒交迫，即使宫室再美，还是没有益处的。”明帝擢升他为荆州刺史，镇守襄阳。

太和年间，明帝处理“浮华案”，整治浮华、空谈之风，罢黜、逮捕了诸葛诞、何晏、邓飏、丁谧等人，毋丘俭叹道：“万世（盛、乘，有争议）之朝，不畜庸才。”引以自省。在人事选拔上愈发尽责小心。后来向朝廷举荐了裴秀，而当同乡杜挚写诗寄来，寻求捷径时，毋丘俭委婉回绝，安慰老乡莫要自轻自贱，勉励其自行表现。少时友谊和磊落正直的作风，使得明帝愈加信赖毋丘俭。不久后，他又获升迁，逐渐投身军旅。

青龙三年（235年），汉相诸葛亮病逝，西线战事暂定。毋丘俭揣摩圣意（一说曹叡指使），上书伐辽，提出详细的用兵方案，为了坚定明帝的决心，最后附上：“陛下您继位以来，没有什么值得史书记载的伟绩，吴、蜀凭借天险抗衡大魏，朝廷这么多年屡次用兵始终没有剿灭它们，应该趁休战的这段时间把战略重心投入别处，收复辽东。”卫臻等近臣觉得公孙渊实力强大，而毋丘俭的计划太过冒险，坚决反对。但明帝早就不满公孙渊割据辽东，在魏吴之间反复暧昧的态度，已有伐辽之心。称赞毋丘俭有能力有策谋，欣然采纳，以“俭有干策”任命其为幽州刺史，加度辽将军、使持节、护乌丸（桓）校尉。从此毋丘俭正式开始了自己的军事生涯。

被封为辽东太守，扬烈将军的公孙渊名义上是魏国的臣子，不久前又因诱斩东吴使团，献俘有功得到明帝嘉奖，加授大司马，封乐浪公。但公孙家族世代割据辽东，实力深厚，名为魏臣却自成一体。向来无视幽州刺史部的谕令，公孙渊满足于割据现状，不肯赴京任职。加之时而与吴国来往密切，引起魏廷不满。屡次征召、警告无果，明帝渐渐失去耐心。公孙渊通过种种渠道，探知明帝屡次收到幽州刺史和东莱太守弹劾自己的奏疏。因而对毋丘俭充满戒心和敌意。