户所辖一千一百二十人，长官称千户。千户下分为十个百户所，百户所辖一百一十二人，长官称为百户。百户下有总旗二，小旗十，每总旗领五小旗，每小旗十个军士，大小相连，比比成军。洪武二十六年（1393）全国共设有十七个都指挥使，下辖三百二十九个卫，六十五个守御千户所，军队一百二十万人，其精锐留驻在京师南京一带。十七个都指挥使分别隶于朝廷的五个都督府，这样使权力分散，便于皇帝控制。
洪武十五年（1382），朱元璋又对朝廷监察机构进行了改革。将御史台改为都察院，设左、右都御史。“都御史职专纠劾百司，辨明冤枉，提督各道，为天子耳目风纪之司。”其下有十三道监察御史，以一布政司为一道，共设御史一百一十人。监察御史负责监视、纠劾百官。出使到地方，则巡按、清军、巡盐、巡漕、巡关、提督学校等，其中巡按御史代替皇帝巡视，“大事奏裁，小事立断”，权力很大。这些御史官秩只有七品，但却可以以小制大。与都察院职责相似的，还有监督六部的六科给事中，称谏官，与都察院互相配合。
经过一番整顿，朱元璋的权力大大加强了，但政务也随之繁多起来。过去有丞相协助，现在全国大小政务都要他亲自处理，即使他“昧爽临朝，日晏忘餐”①，整天批答奏章，也难以承担。洪武十三年（1380）九月，朱元璋设置四辅官，位列公侯、都督之次，协赞政事，但因不胜其职，不久相继致仕。洪武十五年（1382）朱元璋仿宋朝设殿阁大学士的办法，设置了华盖殿、文华殿、武英殿、文渊阁、东阁大学士，由品级比较低的编修、检讨、讲读等官来充任，帮助朱元璋阅读奏章，起草处理文书，这是明代内阁的肇端。整肃吏治朱元璋即位后，“惩元季吏治纵弛”，决心创立一个清正廉洁的朝廷。
为此，他详定了官员考课办法，凡内外官员，根据他们的品秩，分别规定考察时间和内容，由吏部“综其称职、平常、不称职而陟黜之”。约束官员很为严格。同时，朱元璋还用严刑峻法来整顿吏治。他常说：“纪纲法度，为治之本。”因此他十分重视法律的制定。
吴元年（1367），在朱元璋的授意下，左丞相李善长任总裁官，开始了法律的制定工作。是年底初步编成，“凡为令一百四十五条，律二百八十五条”。但朱元璋觉得所定律令还不够完善，又下令修改，直到洪武三十年（1397），几经修改，才正式颁布了《大明律》。《大明律》共三十卷，分吏、户、礼、兵、刑、工六部。它以唐律为蓝本，但简于唐律，严于宋律。律文包括各项法律章程，其中对各级官吏的职权、任务以及应遵守的事项，都作出了详细规定，对官吏违法乱纪行为，也定出了具体惩处办法。
对官吏的贪污，处罚特别重。朱元璋认为：“吏治之弊，莫过于贪墨”，“此弊不革，欲成善政，终不可得”。他下令“凡是官吏贪污蠹害百姓的，都要治罪，不容宽贷！”官吏因枉法而贪赃的，一概发往北方边地充军，官吏贪污钱财六十两以上的，处以枭首示众、剥皮实草之刑。朱元璋把府、州、县衙门左面的土地庙，作为剥人皮的场所，叫做“皮场庙”。贪官被押到这里，剥下人皮，塞上稻草，再摆到衙门公座两旁，使官吏触目惊心，知所警① 谈迁：《国榷》卷十。
惕。就连官吏因公乘坐官家的牲口、车船，携带私人物品超过规定重量的，也要处刑。如乘坐官府牲口，除随身衣物外，携带私物不得超过十斤，每超过五斤笞十杖，十斤罪加一等，最高杖六十；如果乘坐官家的船，携带私物超过三十斤的，每十斤笞十杖，每二十斤罪加一等，最重杖七十。
洪武十八年（1385），朱元璋颁布了《大诰》，以后又陆续颁布《大诰续编》、《大诰三编》、《大诰武臣》，汇集所诛杀官民的罪状，以警示臣民。朱元璋在《御制大诰序》中说道：“今将害民事理，昭示天下诸司，敢有不务公而务私，在外赃贪，酷虐吾民者，穷其原而搜罪之。”①并令后代世世遵从。
明律的制定和实施，在洪武年间得到了认真的贯彻，即使朱元璋自己，也对制定的明律满怀信心，带头执行，执法相当严厉，这在中国古代封建皇帝中是少有的。他的女婿驸马都尉欧阳伦，是马皇后亲生女儿安庆公主的丈夫，因为贩运私茶触犯刑律，即被朱元璋赐死。开国功臣汤和的姑父“隐常州田，不输税”，也被朱元璋治罪。
朱元璋整顿吏治收到一定的效果，据《明史·循吏传》记载，“一时守令畏法”，“吏治焕然丕变矣！”然而在整个洪武年间，对违法乱纪、贪污受贿的官吏，除去平常的零星打击，还进行了几次大规模的清洗。典型的就是洪武十五年（1382）的空印案和洪武十八年的郭桓案。
明廷规定，每年各布政使司和府州都要派计吏到户部，报告地方财政收支情况。为了核算钱粮、军需等款项，必须报布政司，布政司再报部，层层上报，一直到户部审核数目完全符合，才算了结。但户部审核遇有钱粮有不符的地方，就要驳回重新填报。布政使司离京师远的六、七千里，近的也千里上下，所以为了减少来回奔走的麻烦，上计吏就带有事先预备好的盖过官印的空白文册，遇有部驳，随时填用。这本来是公开的秘密，不料到洪武十五年，朱元璋发现了这一情况，认为其中一定有舞弊行为，就下令严办，凡地方衙门主印长官一律处死，佐贰官杖一百充军边地。洪武十八年（1385），御史余敏、丁举廷又告发北平布政、按察二司官吏李彧、赵全德等人，伙同户部侍郎郭桓贪污舞弊，吞盗官粮，朱元璋抓住线索，下令司法部门严加追查，于是六部左右侍郎以下的官员统统被处死，各布政使司有牵连的官员也被逮捕入狱，各地卷入此案的官吏、富豪不计其数。这两案株连被杀的达七八万人。
朱元璋用重刑惩治贪官，虽对吏治清廉有一定作用，但又不免陷于滥杀，这当然与其性格的猜忌多疑有关，但从根本上还是出于对明朝长治久安的考虑。
斩除荆棘随着明皇朝的建立和巩固，昔日与朱元璋枪林弹雨、风雨同舟的将领，成了新皇朝的显贵，他们以血战立功封公侯，拥有大量的土地、佃户、奴仆，享有政治、经济等各方面的特权。这些勋臣武将们无不把明朝的胜利当作自己的胜利，认为理所当然地应享受这个胜利所带来的一切财富、荣耀和权力，然而事实并非如此。或许在失望、失意之余，他们渐渐我行我素起来，恃功① 《洪武御制全书·御制大诰序》。
犯法的事也屡屡发生。这使朱元璋感到忧虑，他真担心这些权势烜赫的元勋重臣，将来某一天会做出背叛他的事，抢走他的皇帝宝座。时间的推移，更加重了他的疑虑。考虑到日后的大明江山，子孙万代的千秋功业，他只好向昔日曾经同甘共苦的兄弟们大开杀戒。
洪武十三年（1380），朱元璋以专权枉法的罪名杀了胡惟庸以后，胡案就成了他打击异己的武器。凡是心怀怨望的、行动跋扈的、对皇权有威胁的，都被罗织为胡党罪犯，处死抄家。以后又加胡惟庸以“通倭”、“通虏”和“谋反”的罪名，不断牵连扩大。胡惟庸被杀后十年，到洪武二十三年（1390），太师韩国公李善长也被牵连，七十七岁的李善长被赐死，家属妻女弟侄家口七十余人被杀。这次受牵连及坐诛的达三万多人，“乃为《昭示奸党录》，布告天下。株连蔓引，迄数年未靖云”①。第二年有人上书为李善长辩冤，朱元璋不理，也没有治罪。
洪武二十六年（1393）又兴“蓝党”大狱。开国大将蓝玉，是洪武后期的主要将领，他麾下骁将十数人，威望都很高。洪武二十一年（1388），率大军十五万打蒙古，一直打到捕鱼儿海（今贝尔湖），俘获男女七万七千余人，大胜而回，被封为凉国公。徐达、常遇春死后，蓝玉继为大将，总军征战，在屡立战功的情况下，骄傲起来，专恣暴横。他霸占东昌民田，百姓向御史告状，御史依法提审，蓝玉一顿乱棍把他赶走。朝廷明令禁贩私盐，他却令家人私买云南盐一万余引，进行走私活动。他北征归来，夜过喜峰关，守关将士因为没有及时开关迎接，他竟纵兵毁关而入。洪武二十六年，锦衣卫指挥蒋■告蓝玉谋反，于是兴起党狱，发布《逆臣录》，“族诛者万五千人”，把军中骁勇之将几乎杀了个干净。
朱元璋利用胡、蓝之狱，前后十四年一共杀了四万五千人之多，“元功宿将相继尽矣！”①在二案之外，朱元璋还鞭死亲侄朱文正，毒死亲外甥李文忠。廖永忠以僭用龙凤不法事赐死，朱亮父子被鞭死，胡美以犯禁死，周德兴以帷薄不修被杀。洪武二十七年（1394）杀王弼、谢成、傅友德，二十八年（1395）杀冯胜。传说开国功臣徐达在洪武十八年（1385）背生疽，经治疗已有好转时，“帝忽赐膳，魏公对使者流涕而食之”②，不数日而死。经过朱元璋的大肆杀戮，开国功臣已寥寥无几。
对于朱元璋如此滥杀功臣的做法，皇太子朱标极力反对，他主张仁慈、宽大，君臣和睦相处，他曾对朱元璋说：父皇杀人太多，恐怕会伤了和气。朱元璋听后一言不发。到了第二天，他故意把一根长满刺的荆棘放在地下，叫太子拿起，皇太子面有难色，朱元璋说：你怕刺不敢拿，我把这些刺都给你去掉了，再交给你，难道不好吗？现在我杀的都是对国家有危险的人，除掉他们，你才能当好这个家。皇太子说：有什么样的皇帝，就会有什么样的臣民。朱元璋大怒，拿起椅子就朝太子扔去，太子只好赶紧逃走。这个故事或许是出自明朝野史的杜撰，不一定真实，但也反映了朱元璋为明皇朝的长治久安而颇费心机。他这样做的真正动机乃是为了让他的后代能坐稳江山。对此，朱元璋或许比谁都清楚，对于他的行为，他生前虽然没有公开忏悔过，然而在他即将离开人世时，却下令不准后人效法。
① 《明史》卷一二七《李善长传》。
① 《明史》卷一三二《蓝玉传》。
② 徐祯卿：《翦胜野闻》。
专制统治洪武时期，有一事对后人影响很大，这就是朱元璋采取特务手段，侦缉臣僚私下的言行。这一方面是由于他处处猜疑多虑的性情所致，但更重要的是他出于控制臣僚的目的。身为一国之君，他不能容许臣僚对他有所欺瞒，他要求他们绝对忠诚。
早在明朝建立前，朱元璋就开始派遣检校从事这样的活动，其职务是：“专主察听在京大小衙门官吏不公不法，及风闻之事，无不奏闻。”有的人甚至专做告发人家隐私的勾当。钱宰被征编《孟子节文》，散朝回家，吟诗道：“四鼓冬冬起着衣，午门朝见尚嫌迟。何时得遂田园乐，睡到人间饭熟时。”第二天上朝，朱元璋问他：昨天作的好诗，不过我并没有“嫌”迟啊，改作“忧”字如何？钱宰吓得出了一身冷汗，忙磕头谢罪①。国子监祭酒宋讷在家独坐，面有怒容，第二天朝见时，朱元璋问他为什么生气，宋讷大吃一惊，照实说了，朱元璋把派人偷着给他画的像拿出来②。吏部尚书吴琳告老还乡回黄岗，朱元璋不放心，派人去打听，等使者回来说吴琳正在家老实务农，朱元璋听了很喜欢③。
洪武十五年（1382）四月，朱元璋出于打击元勋功臣的需要，他把自己身边负责警卫事务的亲军都督府的仪鸾卫改为锦衣卫，授以侦察、缉捕、审判、处罚罪犯等大权。这是一个正式的军事特务机构，有指挥、佥事、镇抚、千户、百户，所统率的人员有将军、力士、校卫，直接由皇帝控制。它下设镇抚司，掌本卫刑名，兼理军匠，有它自己的法庭和监狱，也就是民间所称的“诏狱”。朱元璋把重大案件交给锦衣卫处理，由自己亲自掌握，锦衣卫也只对皇帝负责。朱元璋让锦衣卫在朝廷上执行廷杖的刑法，使不少大臣惨死杖下。
在地方上，各府县的关津要冲之地，朱元璋还设置了巡检司，有巡检和副巡检，都是从九品官，带领差役、弓兵，警备意外，负责把关盘查、缉捕盗贼、盘诘奸伪。但是即使这样，似乎对广大民众仍不能达到约束的目的。于是里甲便被赋予执行检查的任务。里甲内的百姓不能随便外出，如果到百里之外，必须事先向地方政府领取路引（通行证），倘无文引，必须擒拿送官，而且里甲有责任了解所属百姓，对无正当理由外出的要报告官府，不报者以连坐处置。
这样，朱元璋通过这些机构布下了一张监视网络，从城市到乡村，从官僚到百姓，都处于严密的监视和控制之下。明初几起大狱的兴起，多与这些机构有关系，因此，不少达官重臣也难逃厄运。朱元璋尝说：“譬如人家养了恶犬，则人怕。”这就充分暴露了他专制帝王的嘴脸。
朱元璋利用特务手段，实行恐怖统治，对强化皇权一时颇有成效，然而他却同样不希望后人效法。洪武二十年（1387），处理胡案罪犯已近尾声时，朱元璋下令焚毁锦衣卫刑具，把犯人移交给刑部。又过了六年，待蓝玉案犯处理完后，他又再一次申明，以后一切案件交由朝廷三法司审理，内外刑狱① 叶盛：《水东日记》摘抄二。
② 《明史》卷一三七《宋讷传》。
③ 《明史》卷一三八《吴琳传》。
公事不再由锦衣卫处理。
朱元璋试图以一个开国皇帝的能力，为子孙后代创造条件，以保证他们将权力的接力棒永久地传下去。可惜没过几年，他的四子朱棣以“靖难”成功，登上帝座，又重新利用锦衣卫来镇压建文帝的臣下，并且还设置了提督东厂，开了明代厂卫一起制造恐怖气氛的先河，对明朝政治造成极坏的影响，并且一直延续到明朝灭亡。
取士与文字狱朱元璋出身贫寒，早年读书不多，但他很注意访贤纳士，吸纳知识分子，并虚心向他们请教，如李善长、陶安、宋濂、刘基