Ciò che rese Giustiniano celebre, oltre alle sue campagne di conquista in Occidente, fu la sua attività legislativa. Giustiniano, come affermato in una costituzione datata 13 febbraio 528, intendeva realizzare una nuova raccolta di leggi che fosse aggiornata e coerente; le contraddizioni tra leggi diverse sarebbero state individuate e rimosse, le costituzioni obsolete sarebbero state abrogate, e si sarebbe tentato inoltre di rendere il testo delle leggi più chiaro (mediante l’aggiunta o l’alterazione di parole) e coinciso (mediante l’eliminazione di preamboli o spiegazioni superflue); a tal fine nominò una commissione di dieci giuristi esperti affinché realizzasse tale codice di leggi. Tra i membri della commissione i più eminenti erano Triboniano, uno degli uomini di fiducia di Giustiniano, e Teofilo, professore di diritto a Costantinopoli.
Il 7 aprile 529 fu pubblicata la prima edizione del Codice in dieci volumi. Cinque anni dopo fu pubblicata una versione emendata, in dodici volumi, che comprendeva 4652 leggi, tra cui le nuove costituzioni promulgate nel frattempo.
L’attività legislativa di Giustiniano, volta a mettere ordine nel diritto romano, non si limitò a ciò. Nel dicembre 530 l’Imperatore nominò una commissione di sedici giuristi, diretti da Triboniano, affinché realizzasse quell’opera che divenne nota come Digesto o Pandette. L’opera rispondeva alla necessità di ordinare e rendere coerente il lavoro di alcuni autorevoli giuristi del II e del III secolo, nelle cui opere avevano dato autorevoli interpretazioni di diverse leggi. I più eminenti di questi giuristi erano Gaio, Papiniano, Ulpiano, Paolo, e Modestino. Il problema è che di una legge ci potevano essere interpretazioni autorevoli contrastanti, e il Tribunale, nell’emettere la sentenza, si trovava nel dilemma di scegliere a quale interpretazione dare retta. Per risolvere il problema Teodosio II aveva promulgato la Legge delle Citazioni, secondo cui avrebbe prevalso l’interpretazione prevalente, e, qualora non ci fosse, avrebbe prevalso quella del giurista Papiniano. Il problema era che i trattati dei suddetti esperti erano troppo voluminosi per essere consultati comodamente, e questo limitava l’efficienza dell’amministrazione della giustizia. I giuristi di Giustiniano si occuparono di risolvere questo problema. Furono prese da esse cinquanta decisioni per risolvere i principali punti di disputa tra interpretazioni contrastanti di una legge. Per quanto possibile furono rimosse tutte le contraddizioni e omesse tutte le ridondanze, per unire in una sola opera coerente in cinquanta libri tutto il diritto romano. Sembra che Triboniano avesse suddiviso la commissione in tre comitati. L’opera fu completata entro tre anni, e fu pubblicata nel dicembre 533 come Digesto o Pandette.
Giustiniano inoltre fece realizzare una sorta di libro di testo per gli studenti di diritto, le Istituzioni, che pubblicava in forma emendata da tutte le contraddizioni l’opera del giurista Gaio.
Ci furono inoltre leggi promulgate durante il regno di Giustiniano e non incluse nel Codice, le cosiddette “Novelle”. Molte di esse, tuttavia, furono scritte in greco e non in latino, probabilmente perché, pur essendo il latino la lingua ufficiale dell’Impero, nelle province orientali la madrelingua era in realtà il greco. Potrebbe aver influito anche il fatto che il prefetto del pretorio d’Oriente dell’epoca era Giovanni di Cappadocia, che era di madrelingua greca e non conosceva il latino (se non, forse, in maniera elementare).