Il Consiglio nazionale delle ricerche viene istituito come ente morale dal r.d. 18 novembre 1923, n. 2895 e lo Statuto approvato nel 1924 precisa che al CNR fanno capo "i diversi comitati nazionali aderenti alle Unioni scientifiche internazionali che fanno parte del Consiglio Internazionale di ricerche".
In questa fase di strutturazione del CNR fungeva da Comitato matematico la presidenza dell'Unione matematica italiana (UMI), fondata nel 1922 sotto gli auspici di Vito Volterra.
Il r.d.l. 31 marzo 1927, n. 638 provvede al riordino del CNR, accentuandone la subalternità alla politica del regime. L'allontanamento di Volterra dalla presidenza dell'ente e la sua sostituzione con Marconi comportò altresì il rinnovo dei comitati nazionali, istituiti in numero di dodici.
Mentre l'UMI conservava la propria autonomia e personalità giuridica e il suo scioglimento si intendeva come sospensione dell'adesione dell'UMI al CNR, la presidenza del CNR nominò Luigi Bianchi presidente del rinnovato Comitato matematico.
In realtà, causa le critiche condizioni di salute del Bianchi, qualsiasi funzione era delegata al segretario del Comitato, Enrico Bompiani. Quando il 6 giugno 1928 Bianchi moriva, venne eletto presidente Gaetano Scorza, affiancato da una giunta di presidenza costituita da Bompiani, Luigi Berzolari e Mauro Picone.
Così organizzato, il Comitato si dedicherà in questa prima fase della sua esistenza alla realizzazione di due progetti, peraltro destinati entrambi al fallimento causa le scarse risorse finanziarie: la pubblicazione delle opere complete di Luigi Bianchi e la Bibliografia internazionale matematica. Sarà invece coronato da successo il progetto attribuibile a Scorza di una collana di monografie matematiche, concepita per raccogliere in volumi corpi di dottrine spesso dispersi in periodici o Atti di accademie accessibili ai soli specialisti.
Un obiettivo che vide il Comitato matematico impegnato su più fronti fu quello relativo al superamento della sostanziale ignoranza della produzione matematica italiana negli Stati Uniti. I modi per realizzare tale scopo si concretizzarono nell'assegnazione di borse di studio e di perfezionamento, nella partecipazione alla vita scientifica internazionale e diffusione del pensiero italiano all'estero e nella valorizzazione dei settori più nuovi e vitali della matematica, in sintonia con la politica del regime sempre più incline verso le applicazioni e l'autarchia.
Durante il periodo che va fino al 1932, per il quale le notizie sull'operato del Comitato si possono desumere, oltre che dallo studio diretto delle carte, dal «Bollettino d'Informazioni» del CNR creato nel 1930, furono assegnate tre borse di perfezionamento all'estero (a Gianfranco Cimmino, Fabio Conforto e Tullio Viola) e due all'interno (ad Armando Antiferri e a Giorgio Palozzi).
Numerose invece le occasioni che videro membri del Comitato impegnati in congressi, riunioni e missioni scientifiche all'estero: la riunione dei matematici e fisici tedeschi a Praga (15-21 settembre 1929) che vide la presenza di Bompiani; i due Congressi internazionali, tenuti entrambi a Stoccolma nel 1930, degli Attuari (16-20 giugno) e di meccanica applicata (24-29 agosto); la missione di Bompiani negli Stati Uniti nell'inverno 1930 per tenere un ciclo di conferenze e lezioni in varie università; il II Congresso internazionale di storia della scienza (Londra 29 giugno-4 luglio 1931).
Per quanto riguarda invece la valorizzazione dei settori più nuovi e vitali della matematica italiana, secondo il Comitato matematico questa deve riguardare il tipo di ricerche avviate nel campo del calcolo delle probabilità e delle sue applicazioni da Mauro Picone nel suo Gabinetto di analisi infinitesimale all'Università di Napoli: il calcolo numerico, il calcolo delle probabilità e discipline affini non avevano trovato nel cinquantennio precedente collocazione istituzionale all'interno della matematica e i matematici del CNR fecero intorno ad esse un'incessante propaganda sul «Bollettino d'Informazioni». Scorza in particolare si fece portavoce di tale slancio scientifico e fin dal momento in cui gli venne affidata la presidenza del Comitato si adoperò per l'istituzione in un «Istituto centrale di calcolo», per mezzo del quale si potesse conseguire una continua e non occasionale collaborazione tra i matematici puri e i cultori di scienze sperimentali e di applicazione. La proposta incontrò largo consenso e l'istituzione di un «Istituto centrale di calcolo» è inserita nel programma del CNR per il 1931 e annunciata in occasione dell'Assemblea plenaria del CNR del 21 gennaio 1931.
Il nucleo dal quale si svilupperà il futuro istituto di calcolo era il già citato Gabinetto di Picone, al quale furono assegnati i primi mezzi necessari già nel giugno 1931 e il «Bollettino d'Informazioni» nel numero dell'anno III (1932) annuncia la decisione del Direttorio di istituire a Roma un «istituto centrale di calcoli tecnici», il cui scopo fosse quello di provvedere al controllo e alla verifica dei calcoli per costruzioni e problemi di ogni genere, nonché di aiutare la soluzione di problemi incontrati da tecnici di enti pubblici e privati. Tale decisione si attuò nel 1933, quando, in seguito alla ristrutturazione del CNR, l'Istituto di Picone venne riorganizzato assumendo il nome definitivo di «Istituto nazionale per le applicazioni del calcolo» (INAC).
Del 1932 è pure la riforma dell'ordinamento del CNR, regolata dalla legge 26 maggio 1932, n. 598 che riduceva da dodici a undici i comitati, introducendo il Comitato per le materie prime e accorpando in un unico comitato i Comitati per l'astronomia, la fisica e la matematica con il nome di «Comitato per la fisica, la matematica applicata e l'astronomia». Il presidente, nella persona di Antonio Garbasso, sostituito alla sua morte dopo pochi mesi (14 marzo 1933) da Ugo Bordoni, era assistito da tre vicepresidenti, per ognuno dei tre sottocomitati: Emilio Bianchi per l'astronomia, Bordoni per la fisica e Francesco Paolo Cantelli per la matematica applicata. Segretario del Comitato continuava a essere Bompiani.
Le linee programmatiche del sottocomitato matematico sono esposte nella relazione di Cantelli alla Riunione plenaria del CNR del 7-9 marzo 1933 e il progetto sul quale si concentreranno gli sforzi principali sarà ancora quello relativo all'INAC.
Oggetto di attenzione sono anche le monografie matematiche, che a partire dal primo volume di Vitali nel 1935 vedranno la luce con regolarità, e i concorsi tematici a premio: il primo di essi, bandito nel 1934, verteva sul tema «Applicazione concreta dei metodi matematici ai fenomeni fisici ed alle attuazioni tecniche in cui entrano in gioco fenomeni di ereditarietà e di isteresi»; nel 1937 viene bandito il secondo sul tema «Sulla somma massima che una Azienda di Assicurazioni può assicurare a proprio rischio (pieno). Contributi al problema tecnico con riferimenti alla pratica industriale, tenute presenti le possibilità di riassicurazione».
Notevole anche lo sforzo profuso nell'organizzazione di convegni tematici, quali il «I Convegno di matematica applicata» (Roma, 3-4 giugno 1936), seguito nel 1939 dal «II Convegno di matematica applicata» (Roma, 23-25 febbraio). Il finanziamento per il III Convegno, previsto per il 1943, non venne concesso, essendo ormai ogni sforzo finanziario concentrato sul lavoro di guerra.
Nel secondo dopoguerra il CNR è stato riorganizzato da due interventi legislativi: il decreto luogotenenziale 1° marzo 1945, n. 82 e la legge di riforma 2 marzo 1963, n. 283. Questo riordinamento non restituì un comitato autonomo ai matematici, i quali continuarono a convivere con astronomi e fisici. Il consiglio direttivo del Comitato, insediato sulla base del d.l.l. del 1945 era presieduto da Giuseppe Armellini e costituito da Edoardo Amaldi e Gilberto Bernardini; unico matematico Leonida Tonelli. Quando nel marzo 1946 il consiglio direttivo venne ricostituito sotto la presidenza di Antonino Lo Surdo, Edoardo Amaldi ne era il segretario e vi figurava anche Mauro Picone. Nel 1947 i matematici eletti nel Comitato per la matematica e la fisica sono lo stesso Picone, Enrico Bompiani e Antonio Signorini, rieletti ancora nel 1948 con Guido Castelnuovo alla presidenza del consiglio direttivo. Bisogna aspettare le elezioni del 1952 per vedere nel Comitato una maggioranza di matematici, tra cui Bompiani e Signorini a fianco del presidente Castelnuovo. Dopo un paio di mesi Castelnuovo muore e al suo posto subentra nel consiglio direttivo Edoardo Amaldi, mentre il vicepresidente Eligio Perucca ne diviene il presidente.
Sono anni in cui il CNR elargisce contributi cospicui a varie discipline, tra cui anche la matematica, che nel 1948 vede l'Istituto di matematica di Roma, diretto da Bompiani, destinatario di un finanziamento di 200000 lire. Viene pure finanziata l'attività dell'Istituto nazionale di alta matematica di Francesco Severi e del Seminario matematico della Scuola normale di Pisa diretto da Giovanni Sansone.
Nel 1956, sotto la presidenza di Francesco Giordani, il CNR costituisce un comitato autonomo per la matematica: presidente fu eletto Antonio Signorini e nel consiglio direttivo sedevano Sansone e Bompiani. Ne facevano pure parte Picone, Francesco Zagar e Gino Cassinis. Nel 1960 tre commissioni consultive affiancarono i membri del Comitato: una per l'analisi, una per la geometria e una per la matematica applicata. Nelle varie sedi universitarie furono invece distribuiti 52 gruppi di ricerca, che poterono giovarsi di un notevole aumento di fondi.
I Comitati per la matematica succedutisi a partire dal 1960 hanno contribuito notevolmente alla stampa matematica periodica, ai gruppi di seminari e istituti matematici, ai professori visitatori, ai gruppi di ricerca, alle borse di studio per laureandi e laureati, a borse di addestramento, a borse per studenti stranieri, all'INAC e alla quota di appartenenza all'International Mathematical Union.

Le carte del Comitato matematico italiano sono organizzate in 10 serie:
1. Organizzazione del Comitato (1928-1939);
2. Riunioni (inviti a - relazioni su) (1928-1938);
3. Congressi, rappresentanza, missioni, onoranze, borse di studio (1929-1939);
4. Relazioni su pubblicazioni e documenti inviati in esame (1928-1942);
5. Pubblicazioni del Consiglio nazionale delle ricerche (1929-1938);
6. Pubblicazioni del Comitato matematico italiano (1928-1938);
7. Istituto nazionale per le applicazioni del calcolo (1929-1935);
8. Osservatori astronomici (1932-1937);
9. Ricerche di fisica (1932-1938);
10. Miscellanea (1934-1942).