La biblioteca venne istituita in seguito alla volontà di Giovanni Maria Bertolo (1631 -1707) di donare alla sua città natale, Vicenza, la propria raccolta libraria. Dopo alcune vicissitudini legate all'esigenza di individuare un luogo idoneo, nel 1708 la biblioteca aprì i battenti in un locale nel palazzo del Monte di Pietà, progettato da Francesco Muttoni. Alla donazione libraria di Bertolo seguirono, nel corso del Settecento e dell'Ottocento, quelle degli eredi di Giovanni Checcozzi, Filippo Neri, Lodovico Gonzati ed altri. A partire dal 1881 alla biblioteca venne affidato l'archivio storico del Comune di Vicenza, detto "Archivio di Torre" dal nome della Torre del Girone o Torre del Tormento in cui precedentemente era conservato. Le numerose e continue acquisizioni di raccolte librarie così come di archivi di nobili famiglie vicentine, con la conseguente necessità di maggiori spazi per la conservazione del materiale, imposero di ripensare la collocazione dell'istituto, che nel 1908 trasferì la propria sede nell'ex convento di San Giacomo dei padri Somaschi, in contrà Riale, dove ancor oggi è ubicato.
La biblioteca è stata retta in economia dal Comune fino al 1946, in seguito la gestione è passata ad un Consorzio formato dal Comune e dalla Provincia di Vicenza che è cessato nel 1993. Nel 1994 la gestione della biblioteca storica di Contra' Riale e delle biblioteche del Sistema Bibliotecario Urbano è stata affidata all'"Istituzione pubblica culturale Biblioteca civica Bertoliana", ente strumentale del Comune di Vicenza.
