夏商无司法机关，周设司寇，分为大司寇和小司寇大司寇辅助周王，实施司法权，小司寇掌管具体的司法工作。 秦朝时中央的司法机构由廷尉和御史大夫组成。廷尉一词的含义，在《汉书·百官公卿表》中写道“听讼必质诸朝廷，与众共之，兵狱同制，故称廷尉。”对“廷”的解释写道：“廷，平也。治狱贵平，故以为号。”对“尉”的解释有：“自上安下曰尉。”可见廷尉一词是取其公平处理争议案件，使国家、百姓平安的意思。廷尉的主要职责是审理皇帝授予的案件，全国的上诉案件，以及疑难案件。
另外一个司法机构“御史”，设有官员御史大夫，为最高的监察官员。其职位仅低于丞相，对于重大案件的审理，必须有御史大夫参与进行，因此御史大夫也为中央司法机构。
地方司法机构，由地方行政机构承担，秦朝时设立郡、县地方机构，郡守和县令拥有行政权和司法权，对管辖区内的一般案件自行处理，对于疑难案件可以奏报给廷尉处理。在郡守下设有辞曹掾史和决曹掾史，在县令下设有辞曹掾史和狱掾，这些机构都是协助郡守和县令进行司法工作。
另外，在郡、县下还有更低一级的行政级别，如乡、亭和里。乡设有“秩”掌管处理乡内轻微的刑事和民事纠纷，亭内设“亭长”，里内设有“里典”，都是基层的行政管理单位，同时也兼顾或协助处理刑民纠纷。
汉朝法制的发展也体现在形成了比较完善的司法机构。在中央司法机构中，有尚书、廷尉和御史大夫三个机构组成。
在汉武帝时期为了限制日益膨胀的相权，而设立了“尚书”这一司法机构。使司法审判大权转由尚书和廷尉共同行使。
廷尉在汉朝得到更加完备的发展，设立了廷尉正（主管疑难案件的审理），廷尉左右监（主管逮捕犯罪人）、廷尉左右平（主管审理一般案件）等等职位，使廷尉的功能更加齐全，分工越来越精细。
御史大夫的职能与秦朝时相同，专门监察文武官吏，如发现有违法违纪的情况，可以上奏弹劾。同时御史大夫也可与廷尉一起处理疑难案件。
尚书、廷尉、御史大夫三大司法机构的出现，为后来的审判、复审、监察的“三权分立”格局打下了雏形。
地方司法机构类同于秦朝时期，设郡、县两级，司法与行政不分。郡守和县令主宰本区域内的司法权。内部的司法机构中又分为许多细小的部门。例如贼曹，主管抓捕盗贼；辞曹，提出诉讼案件；决曹，负责对判决进行执行；人恕掾，审理并作出判决。可见，汉朝时期，无论是中央还是地方司法机构都比较完备。
在三国两晋南北朝时期，是政治上比较混乱的时期，但是法律制度却得到了很好的完善。例如北齐时期的《北齐律》的制定，继承了秦汉法律的优点，又创立了中“重罪十条”和“五刑”制度,为隋唐的“十恶”和“五刑”奠定了基础。
在这一时期内，中央司法机构主要有廷尉、尚书和御史大夫，其中廷尉在北周时曾改为“大司寇”，北齐时曾改为“大理寺”，但不管称谓如何，其最高司法机关的地位不变。但是尚书的机构在这一时期逐渐加强，而相对廷尉的权利有所缩小，部分司法权转给了尚书。
地方的司法机构同秦汉时相同，实行司法行政合一，由郡守、县令担任。
六、隋唐时期
隋唐时期的法律制度，是封建法制最完善、最具代表性的法律制度。不仅有“十恶”、“五刑”等制度，还设立了“八议”、“官当”等法律制度。同样在司法机构上也是最完善的，形成了大理寺、刑部、御史台的三权分立式的司法审判制度。
大理寺由原来廷尉转化而来，在北齐时期曾用过“大理寺”的称谓，是最高的司法审判机关，掌管审理全国处于流刑以上的案件。
刑部负责复核大理寺所判流刑以上的案件。御史台掌管监察文武百官。但也可参与冤案大案的审理。因此形成了大理寺的主管审判，刑部主管复核，御史台主管监察的司法审判制度。当然在三大司法机构的上面还有皇帝，主宰一切行政、司法、立法的权力。
隋唐时期的地方司法机关仍然是地方的行政机关。例如在州（郡）一级中设立“曹参军”受理刑事案件，“司户参军”受理民事案件。在县中设有司法佐、史协助县令处理刑、民案件。在县以下的乡、里、访、村中设立的乡官、里正、坊正、村正对管辖内的婚姻、土地等民事案件有审判权。
七、宋朝
宋朝的司法制度大多数沿用唐朝时期的制度，但也有一些不同之处。大理寺和刑部还是保持其职责不变，但是宋朝初期为了加强中央集权，设立了审刑院，又称为宫中审刑院，是宋朝初期的审判复核机关，同时也拥有的审判权和复核权。因此削弱了刑部和大理寺的权利。在宋神宗熙宁三年后，审刑院被撤销，审判和复核的权利又回到了大理寺和刑部。
御史台除了有唐朝时期的权利之外，还可以受理官员受贿的案件以及地方上诉的案件。
另外宋朝还设立了登闻鼓院、登闻检院、理检院三个法定机关，专门受理直接向朝廷投诉的案件，以及上诉的冤案。
地方司法机构仍然保持不变。
八、元朝
元朝是少数民族统治时期，在司法机构的设置上较混乱，沿用了唐宋的制度，但又加以删减。中央司法机构设立大宗正府、刑部、宣政院。大宗正府是类似于大理寺的中央审判机关，刑部的复核职能不变，但同时又赋予部分审判职能。宣政院主要管理僧侣的案件。御史台的职能也不变。
地方有省、路、府、州、县各级衙门，作为地方司法机构。
九、明朝
明朝将元朝废除的大理寺重新设置起来，但是其职责改为法律复核机关。刑部作为中央审判机关。刑部的所有案件都必须由大理寺复核，可见刑部与大理寺的职能，正好与唐宋时期的相反。御史台改为都察院，其职责不变，仍是监察百官，参与审理大案，平反冤案。
地方司法机构有省、府、县三级，主管所辖案件。
十、清朝
司法机构维持明朝的三个司法机构的设置，职责也差不多，但是刑部的审判权力更大，在三大司法机关中，以刑部为首，刑部不受大理寺和都察院的制约。清朝时另设专门司法机关理藩院，处理少数民族事务。对于皇族内部的案件由宗人府和内务府中的慎刑司处理。
地方司法机构设有省、府、县三级司法机构。
通过以上的分析，可见在中国古代的司法机构，是中央专设司法机构，地方则是司法与行政合一的体制。因而从总体上可以说是司法与行政不分，即使是在中央专门设立了专职的司法机构，同样也是从属于行政，专职的司法机构不可能独立行使司法权，因为司法官员的任免都由皇上决定，而皇上是一个集立法、司法、行政权为一身的独特的个体，这就决定了在中国古代的司法机构是不可能独立的，同样司法权的行使也是不可能独立的。