​L'ABI inizia la sua attività collaborando con le tre Associazioni di categoria già esistenti (le Banche popolari dal 1876, le Casse di risparmio dal 1911 e le Casse rurali e artigiane dal 1915). Tuttavia, seppur in un quadro di collaborazione, in questa fase l'Associazione Bancaria si colloca ad un livello diverso - più generale - rispetto alle altre associazioni, con responsabilità estese a tutto il settore e proiettate a livello internazionale.
Finalità e struttura della neo costituita Associazione risultano definite dallo Statuto, approvato nel 1919 e ufficializzato il 14 dicembre 1920. Risaltano subito il principio ispiratore fondato sulla unitarietà di interessi tra imprese che esercitano il credito indipendentemente dalla categoria di appartenenza e il compito di consulenza che l'Associazione si attribuisce per venire incontro alle esigenze delle banche, soprattutto delle banche minori.
Nel primo quinquennio (1919-1925) di esistenza l'ABI svolge molteplici attività nel campo tecnico-economico, giuridico e tributario occupandosi, tra i progetti iniziali, dei problemi relativi alla stipula e all'esecuzione dei trattati di pace. Partecipa sin dalla sua creazione ai lavori della Camera di commercio internazionale assumendo posizioni d'avanguardia sulla partecipazione dell'America alla ricostruzione dell'Europa. E' presente alla Conferenza di Genova sui problemi monetari e finanziari del dopoguerra. L'ABI si attiva anche in campo culturale con il "Bollettino economico-finanziario" che già dai primi numeri si presenta con la promessa di una vera e propria rivista scientifica, che diventerà poi la "Rivista Bancaria", assumendo una dignità formale anche nel nome e diventando sempre di più un forum di dibattito scientifico e di comunicazione culturale.

​Il 1926 segna l'inizio dell'ordinamento corporativo, caratterizzato dalla regolamentazione dei rapporti di lavoro che culmina con l'emanazione della legge 3 aprile 1926, n. 563, sulla "Disciplina giuridica dei rapporti collettivi di lavoro", integrata successivamente dalle norme di attuazione che all'articolo 41 prevedono il possibile riconoscimento di "una confederazione nazionale bancaria". E così il 10 maggio dello stesso anno si costituisce la Confederazione generale bancaria fascista. Nel campo bancario l'instaurazione del regime sindacale-corporativo si attua in questa prima fase più su alcune caratteristiche formali che in innovazioni di sostanza. La Confederazione viene divisa in due separate sezioni, sindacale e economico-finanziaria, per assicurarle la possibilità di continuare ad avere voce in capitolo nel nuovo assetto del Paese - così come l'Associazione l'aveva acquisita in regime di libertà - a salvaguardia della sua attività e per porre dei limiti alle interferenze di ordine politico o esterne.

E' del 1931 una seconda configurazione dell'Organizzazione bancaria secondo i criteri del regime fascista che diviene Confederazione nazionale fascista del credito e dell'assicurazione nell'agosto del 1934, con l'approvazione di un nuovo statuto che apre la via a una partecipazione della Confederazione al funzionamento delle corporazioni. Sparisce la bipartizione in sezioni che costituiva una eccezione dell'ordinamento corporativo e viene conferita alla Confederazione una struttura unitaria. Ormai sulla via dell'ingerenza politica ci si rende conto della necessità di mutare strategia, scorporando dalla Confederazione una struttura autonoma capace di portare avanti l'attività tecnico-economica che costituiva il fulcro della prima Associazione. Si riesce così a dar vita nel 1936 ad una Associazione tecnico bancaria con sede a Milano alla quale viene assegnato un orientamento puramente tecnico, fermo restando il ruolo formale di rappresentanza esterna e di coordinamento attribuito alla Confederazione. Ma l'Associazione ha breve vita e viene sciolta a metà del 1937.

​Nel 1945, al termine del secondo conflitto mondiale, l'ABI si ricostituisce a seguito del referendum indetto tra tutte le banche italiane. Viene confermata la formula di associazione di primo grado con rappresentanza diretta degli associati, estesa a tutte le categorie di banche che in qualunque forma raccolgano risparmio ed esercitino attività di credito e finanziaria.

Dal dopoguerra, funzione fondamentale e determinante dell'ABI è stata la trattazione e tutela unitaria e indifferenziata degli interessi comuni dell'intero settore, mentre alle Associazioni di categoria rimaneva affidata la tutela degli interessi specifici delle rispettive categorie di aziende associate, in quanto diversificati da quelli più generali. Ciò nel reciproco rispetto di compiti e di attività, in un quadro di fattiva collaborazione

 

​Con gli anni, la caratteristica di rappresentanza di Sistema si è andata rafforzando, a seguito anche alla trasformazione delle modalità di funzionamento del sistema bancario che, a partire dai primi anni Novanta ha registrato un cambiamento del quadro legislativo. Vi sono alcuni provvedimenti chiave che presidiano questa trasformazione. La legge Amato-Carli - del 1990 - ha innescato un processo che ha condotto alla privatizzazione delle maggiori aziende bancarie e alla nascita di nuovi investitori istituzionali. In pratica, il legislatore ha cercato di perseguire gli obiettivi di una maggiore efficienza e competitività del Sistema creditizio per il tramite della privatizzazione, attraverso la trasformazione degli enti creditizi pubblici in società per azioni. Inoltre, ha incentivato l'attivazione dei processi di concentrazione bancaria anche con il sussidio di una specifica normativa fiscale; infine, ha provveduto a disciplinare i gruppi creditizi con l'introduzione di un modello organizzativo che ha costituito una vera novità nell'ordinamento giuridico italiano e che trova la sua definitiva specificazione nel Testo unico. Sempre del 1990 è la liberalizzazione dei movimenti di capitale con l'estero; nel 1993 sorge il mercato unico europeo che con il disegno dell'unione monetaria ha costretto il Sistema creditizio a rivisitare il concetto di banca-istituzione a favore di quello di banca-impresa.

Infine, l'entrata in vigore dal 1° gennaio 1994 del Testo unico riguardante norme in materia finanziaria e creditizia che, annullando la precedente distinzione fra aziende di credito e ed istituti speciali di credito, ha riconosciuto ad ogni banca la possibilità di operare nell'ambito delle quindici tipologie previste dalla Seconda direttiva di coordinamento bancario. Direttiva che, recepita nella legislazione italiana dal 1992, ha posto le basi per rendere unico il mercato bancario europeo, aprendolo a tutti gli operatori che possiedono i necessari requisiti patrimoniali e che possono dare garanzia di correttezza e professionalità. Il Testo unico ha modificato quindi profondamente le condizioni sulle quali si basavano gli schemi operativi delle aziende del settore, coinvolgendone tutti gli aspetti cruciali della gestione.

Nello scenario che si è andato perfezionando nel mondo bancario dopo l'introduzione del Testo unico, all'ABI è stata confermata la rappresentanza di tutti gli operatori bancari e finanziari abilitati a svolgere una o più attività riconosciute dalla Seconda direttiva di coordinamento bancario. L'Associazione ha continuato quindi ad essere il fulcro di aggregazione del Sistema e al tempo stesso il luogo naturale per il confronto e lo sviluppo di ogni singola azienda, oltre che del settore nel suo insieme.

Dalla fusione per incorporazione dell'Associazione sindacale fra le aziende del credito (giugno 1997), l'ABI ha anche acquisito la rappresentanza sindacale diretta delle aziende operanti nel settore creditizio e finanziario, con la sola esclusione delle aziende che hanno conferito mandato sindacale alla Federazione italiana delle banche di credito cooperativo - Federcasse (e, in un primo momento, all'Associazione delle casse di risparmio italiane - Acri, le cui aderenti hanno fatto confluire in ABI la rappresentanza sindacale a far tempo dal 1999).

E' stata inoltre investita della competenza necessaria per definire le linee unitarie relative ai rapporti di lavoro, alle politiche dell'occupazione, ai rapporti con le organizzazioni sindacali dei lavoratori di tutto il sistema, tranne per le specifiche contrattuali che caratterizzano i contratti collettivi di lavoro stipulati dalla Federcasse.

Dalla fine del 1997 si è ancora più accentuata la funzione di tutela degli interessi del Sistema creditizio e finanziario svolta dall'ABI, affiancata dalla tradizionale attività di servizio rivolta alle aziende associate. Ma è senz'altro il 1999 che ha segnato l'avvio della sperimentazione di un nuovo ciclo organizzativo, derivato da una revisione delle attività associative secondo un modello di funzionamento capace di cogliere la crescente differenziazione delle esigenze degli Associati in termini di prodotti/servizi. Un cambiamento impostato per fornire una migliore offerta di prodotti associativi professionali e integrati.