Dopo la morte di Lorenzo Usimbardi (1636), Ferdinando II nominò ufficialmente un segretario di guerra assegnando l'incarico ad Antonio Simoni, che, in base al motuproprio del 23 febbraio 1637, ebbe tra le sue mansioni la soprintendenza dei negozi delle fortezze e presidi di tutto il granducato, degli affari di Livorno e delle galere, dell'Arsenale e Offizio dei Fossi di Pisa e di Portoferraio. In più ebbe la facoltà di proporre le nomine alle magistrature interne e per i commissariati e rettorie esterni. Questo non significa che i precedenti uffici militari come lo Scrittoio delle fortezze e fabbriche, che si occupava del mantenimento delle fortificazioni, lo Scrittoio delle galere e l'Arsenale di Pisa da allora in poi perdessero le loro attribuzioni. Simoni, piuttosto, ebbe funzioni di supervisione e coordinamento. Seguendo l'esempio del suo predecessore, inoltre, esercitò un saldo controllo sulla Banca militare, di cui era stato collaterale per quasi trent'anni già prima di essere nominato segretario di guerra, cosa che, insieme alla possibilità di proporre le nomine per gli uffici, gli garantì un potere molto vasto, che si estendeva anche sulle bande, ufficialmente al di fuori della sua giurisdizione.

Spesso sia Usimbardi sia Simoni entrarono in conflitto con i commissari delle Bande, la magistratura militare che deteneva il comando e la gestione di tutte le milizie toscane sin dai tempi del duca Alessandro. Forti però delle loro attribuzioni e della loro esperienza di giureconsulti, poterono difendere le proprie posizioni, anche contro un commissario influente come Raffaello de' Medici.

Alla morte di Simoni, avvenuta nel 1640, l'incarico di segretario di guerra fu ridimensionato e affidato ad Alessandro Nomi. Questi, in base al motuproprio del 28 novembre 1640, non ebbe la facoltà di proporre le nomine alle magistrature dentro e fuori Firenze, che fu invece affidata a Benedetto Guarini. In aggiunta, gli fu affiancato una sorta di consiglio composto dal marchese di Colloredo, da Giovanni di Raffaele Medici marchese di Santangelo in Grotte e soprintendente alle fortezze, dal marchese Salviati, dal depositario generale pro tempore Cosimo di Neri Del Sera e dall'auditore Raffaello Staccoli incaricato di tutti i procedimenti giudiziari riguardanti i "miliziotti". Il consiglio aveva il compito di trattare tutti gli affari di competenza del segretario cui rimaneva una funzione quasi solo propositiva. Grazie a quest'organo collegiale, inoltre, tornavano ad avere un peso notevole nelle questioni politico-militari delle figure che ne erano state estromesse come l'auditore delle bande e il provveditore delle fortezze. La presenza del depositario generale, infine, garantiva un maggiore controllo sulle spese.
Con i successori di Nomi, prima Domenico Pandolfini (1644) che fu anche segretario dell'Ordine di Santo Stefano e poi Ferdinando Bardi (1655), la figura del segretario di guerra acquistò nuovo prestigio. Entrambi ebbero ampie competenze in ambito diplomatico e nell'amministrazione relativa ai soldati, sugli affari di Livorno, sulle galere, sull'Arsenale, su Portoferraio e su varie questioni militari.
Cosimo III nominò alla carica Francesco Panciatichi nel 1680 e dopo di lui Anton Francesco Montauti e Carlo Rinuccini.
Sotto gli ultimi due sovrani Medici il ruolo di tutti i segretari, compreso quello di guerra, fu notevolmente ridotto, soprattutto a causa della crisi finanziaria in cui si venne a trovare il granducato. Si arrivò così a non sostituire i segretari che nel corso del tempo vennero a mancare determinando una forte diminuzione del loro numero.