Una provvisione emanata nel 1389, poi confermata dagli Statuti del 1415, fissava a trent'anni l'età minima per far parte dell'ufficio. La durata dell'incarico fu stabilita prima a sei mesi, poi, dal 1394, fu portata a quattro. Mutevoli furono poi le modalità di assegnazione della carica: dal 1380 al 1406 gli Otto furono nominati direttamente dai Signori e Collegi, quindi per tratta, dal 1459 dal Consiglio del Cento e dal 1480 dal Consiglio dei Settanta; successivamente (1494) si assegnò al Consiglio maggiore il compito di eleggere una commissione che a sua volta doveva designare i candidati i cui nomi venivano "imborsati" e sottoposti quindi a estrazione. Gli ufficiali non entravano in carica tutti contemporaneamente, ma quattro alla volta: ogni due mesi, infatti, veniva rinnovata solo la metà del collegio, in modo da garantire continuità di lavoro. Una volta ricoperto l'incarico, non si poteva tornare a far parte della magistratura prima che fossero trascorsi due anni.
Gli Otto risiedevano nel Palazzo del podestà ed erano assistiti nell'esercizio delle loro funzioni da una "familia" composta da un notaio, un provveditore, un "manigoldo" (cioè il boia incaricato di eseguire le condanne capitali), otto "custodi" delle pescaie e degli accessi alla città dal fiume, inservienti e collaboratori variabili da un minimo di otto a un massimo di quaranta. Il notaio, detto anche "esecutore degli ordinamenti degli Otto", era un forestiero designato prima dai Signori e Collegi e, dal 1494, con il sistema della tratta. Oltre a questo personale d'ufficio, gli Otto avevano a disposizione una rete di messi, esploratori, spie disseminati in tutto il dominio fiorentino e all'estero. In caso di necessità, potevano servirsi delle milizie assoldate dal Comune e degli uomini armati alle dipendenze di altri ufficiali come il bargello, il podestà, il capitano del popolo e i rettori del territorio.
Come gli altri uffici della Repubblica anche gli Otto, alla fine del loro mandato, dovevano sottoporsi a sindacato. Dal 1429 la revisione della loro attività fu demandata al neocostituito magistrato dei Conservatori di legge.
Inizialmente gli Otto ebbero compiti prevalentemente operativi ed esecutivi, nell'esercizio dei quali vigilavano, perseguivano malviventi comuni, oltre che sediziosi e presunti cospiratori, impedivano ai fuorusciti e agli sbanditi di rientrare in territorio fiorentino, tenevano sotto controllo stati e sovrani nemici, attivandosi sia a seguito di denunce (che potevano anche essere anonime) sia ex officio. Inoltre, svolgevano investigazioni, ricercavano e catturavano ribelli e indiziati spingendosi fino a un primo interrogatorio dei catturati, salvo poi, almeno in teoria, consegnarli ai magistrati competenti; raccoglievano informazioni riservate che trasmettevano in via spesso informale agli apparati di governo.
I loro compiti comprendevano poi attività varie mirate al mantenimento dell'ordine pubblico, come l'emanazione e la vigilanza sull'applicazione di bandi relativi al divieto di circolazione durante le ore notturne, di porto illegale di armi, di gioco d'azzardo e di assembramento, i controlli sul corretto svolgimento dell'iter per l’elezione della Signoria, l'isolamento degli appestati, la gestione dei servizi di guardia in città e alle porte.
Fino alla metà del Quattrocento gli Otto ebbero incarichi in merito all'assoldamento, dislocazione e mantenimento delle milizie stanziate nel dominio e alla gestione delle fortificazioni, in ciò collaborando con altri ufficiali, tra cui quelli della condotta e i capitani di guerra: in pratica, coordinavano la vigilanza sul territorio fungendo da organo di raccordo tra le diverse circoscrizioni amministrative e giudiziarie locali (podesterie e vicariati).
Per l'ampiezza delle informazioni in loro possesso e la centralità delle loro funzioni ai fini dell'integrità e stabilità del regime, gli Otto furono chiamati spesso a partecipare alle Consulte e interpellati su questioni di politica estera, di alleanze militari, di condotta delle operazioni belliche e di elezione dei capitani di guerra; per gli stessi motivi fecero quasi sempre parte delle cosiddette balìe, cioè delle commissioni istituite in presunti momenti di emergenza e investite di poteri straordinari: la prima balia in cui gli Otto furono coinvolti fu quella del 1382, incaricata di riformare il governo e di consolidare in tal modo il potere dell'oligarchia. Varie volte e in maniera sempre più frequente gli Otto ebbero incarichi eccezionali, come nel 1393 quando dovettero reclutare e organizzare un corpo di duemila cittadini con lo scopo di costituire una sorta di guardia civica.
Nel corso del Quattrocento l'ufficio subì una trasformazione decisiva, che portò i suoi poteri e le sue funzioni ad ampliarsi soprattutto in ambito giudiziario, seppur in maniera quasi sempre informale, fino ad assurgere di fatto a massima magistratura penale della Repubblica fiorentina e strumento dell'affermazione del predomino mediceo. Dagli anni venti-trenta del Quattrocento, in particolare, gli Otto ebbero la facoltà di impiegare la "declaratio" e il "bollettino": la prima consisteva in una dichiarazione circa la colpevolezza del reo su cui la magistratura avesse indagato; il secondo era un'ingiunzione che la magistratura inviava agli uffici giudiziari (podestà, capitano del popolo, esecutore degli Ordinamenti di giustizia, rettori del territorio) per imporre le proprie decisioni circa le sentenze da pronunciarsi. Questo potere di ingerenza nel campo d'azione dei giusdicenti dovette superare i limiti del consentito, se il 25 gennaio 1452 fu votata una provvisione che precisava le esatte competenze degli Otto e gli ambiti in cui essi non dovevano interferire. In tale circostanza, peraltro, si dette la definitiva sanzione istituzionale al fatto che la giurisdizione degli Otto comprendeva i reati contro la sicurezza e la libertà dello Stato, quelli di gioco proibito e di porto d'armi illecito, gli affari riguardanti gli ebrei e la facoltà di concedere bollettini di sicurtà per debiti o pene personali. Di contro, si negava loro la competenza nell'ambito della giustizia civile.
Dal 1434, d'altra parte, gli Otto detenevano in maniera quasi permanente la "balia" e quindi la possibilità di agire in deroga alle procedure e alle attribuzioni loro riconosciute e imposte dalla legislazione ordinaria. In quell'anno ottennero inoltre la facoltà di perseguire chiunque rappresentasse una minaccia per il nuovo regime che, con il ritorno a Firenze di Cosimo il Vecchio, aveva significato la definitiva preminenza politica del partito mediceo.
Nel 1478, in un clima molto teso – in quell'anno fu organizzata la congiura dei Pazzi –, fu redatto lo statuto degli Otto, la cosiddetta legge gismondina (dal nome di uno dei compilatori, Gismondo della Stufa), che compendiava, armonizzandole, tutte le disposizioni riguardanti l'ufficio emanate fino a quel momento. In tal modo si regolamentava l'attività della magistratura e se ne confermavano, legalizzandole, le prerogative più importanti, tra cui quella di interferire nell'operato dei giusdicenti e anzi di servirsene attraverso l'impiego dei bollettini comandatari; quella di cambiare, inasprendole, le pene comminate dai tribunali a colpevoli di reati di sua competenza; quella di emettere sentenze di condanna senza che le stesse fossero pronunciate all'unanimità o motivate, ossia “sola facti veritati inspecta”.
Un estremo tentativo di limitare il potere di questo organo collegiale così potente e temuto fu intrapreso dopo la fuga di Piero de' Medici (1494), quando Savonarola e i suoi seguaci cercarono di introdurre il diritto d'appello per le sentenze degli Otto contro le quali, fino a quel momento, non era consentito fare ricorso. L'appello fu quindi concesso al Consiglio maggiore, ma la soluzione si rivelò tutt'altro che efficace.
Nel 1502, con il passaggio delle competenze del podestà e del capitano del popolo al neo-costituito Consiglio di giustizia, gli Otto assunsero il controllo pressoché totale dell'amministrazione della giustizia criminale, estendendo la loro giurisdizione anche a reati, come quelli di sodomia, fino ad allora appannaggio degli Ufficiali di notte.
Neppure la nascita del principato mediceo nel 1532 intaccò i poteri della magistratura che, al contrario di altri uffici repubblicani, continuò la propria attività divenendo organo cardine dell'affermazione del potere ducale e della sua tendenza centralizzatrice, manifesta sia sul piano legislativo sia mediante l'estensione della giurisdizione delle magistrature centrali, come appunto gli Otto, a tutto il territorio. Le Ordinazioni del ’32 prescrivevano poi che, degli otto membri della magistratura, sei fossero annualmente scelti dal Consiglio dei Duecento e di essi almeno uno da quello dei Quarantotto.
Dopo il 1543, sotto Cosimo I, con l'istituzione dell'auditore fiscale, il controllo delle sentenze criminali passò a questo alto magistrato, che diventò il regolatore del sistema giudiziario penale del principato; in seguito, nel 1547 fu istituita in seno alla magistratura la figura del segretario, che si impose come membro tecnico gerarchicamente più alto, con compiti anche politici, di gestione del carico pendente, di verifica dello stato della criminalità, di garanzia del corretto svolgimento delle procedure, di raccordo degli otto membri elettivi col granduca (di cui richiedeva l’intervento in caso di impasse degli Otto in sede deliberativa). Prima del 1547 erano stati nominati dei cancellieri, esperti notai incaricati dell’istruzione delle cause, incrementati già nel corso del Cinquecento e ancor più nel Seicento.
La cifra della politica cosimiana in materia di amministrazione della giustizia penale è soprattutto legata a due provvedimenti: quello del 14 giugno 1549 circa «il mandare i processi dei rettori agli Otto», relativo all'obbligo per i rettori del dominio di inviare i fascicoli completi dei processi agli Otto, obbligo ribadito nel 1559, quando, data la gravosità e la lentezza derivanti da questa normativa, lo stesso fu circoscritto ai soli procedimenti per reati particolarmente gravi; e quello del 19 novembre 1569, noto come legge sulla «buona» giustizia, che si propose di attenuare le più gravi disfunzioni del sistema.
La progressiva tecnicizzazione del personale della magistratura consentì, proprio a partire dal secolo XVII, l'abbandono dell'antico stile sommario di processare basato sulla lex gismondina, a favore di una più rigorosa aderenza formale a regole, precetti, riti e forme, favorita anche dalla diffusione contestuale in Toscana dei primi trattati di diritto. La svolta fu il risultato dell'emergere spontaneo di una prassi all'interno della corte e non fu collegata a una vera riforma istituzionale; il processo di formalizzazione delle procedure criminali fu però coronato dall’opera di Marcantonio Savelli, che, con la sua prefazione alla "Pratica universale" sul “modo di fabbricare e risolvere li processi criminali nelli stati del Serenissimo Gran Duca di Toscana” (1665) e con la "Lettera circolare alli rettori dello stato, del magistrato dei Sig. Otto di guardia, e balia della città di Firenze per S.A.S. del dì 14 dicembre 1663" (Cantini, XVIII, pp. 154-158), fissò con chiarezza il rito procedurale dagli Otto quale espressione della volontà del principe.
Al 1639 data l'istituzione dell'auditore degli Otto; in conseguenza di ciò, l'auditore delle bande fu esonerato dal compito di votare in tutte le cause di competenza esclusiva del magistrato ed in quelle dei rettori, in cui non fossero interessati i cosiddetti "descritti".
Con i successori di Cosimo I, gli Otto videro più volte ridefinite le proprie competenze. In particolare la loro giurisdizione fu ridimensionata soprattutto nel contado e distretto per effetto del potenziamento dei giusdicenti locali. Per breve tempo, inoltre, tra il 1680 e il 1699, i reati più gravi divennero di competenza della Ruota criminale, mentre gli Otto, che mantennero la giurisdizione sui reati minori, acquisirono anche le competenze in materia di pubblica morale fino ad allora di pertinenza degli Ufficiali dell'onestà, il cui ufficio venne soppresso e accorpato a quello degli Otto. Abolita la Ruota criminale il 1° settembre 1699, la loro giurisdizione fu reintegrata come era prima del 1680 e la loro cancelleria fu ristrutturata.
La magistratura fu mantenuta in vita anche dopo il passaggio del Granducato alla dinastia lorenese, finché nel 1777, nell'ambito delle riforme del sistema giudiziario promosse da Pietro Leopoldo, fu abolita e sostituita dal Supremo tribunale di giustizia.