Предшественницей Главного управления Банка России по Санкт-Петербургу была Санкт-Петербургская контора Государственного Банка, учрежденная в соответствии с «Уставом Государственного Банка», утвержденным Александром III 6 июня 1894 года. Открытая 1 сентября 1894 года, контора разместилась в здании на Екатерининском канале, 30, где работала до 1918 года.

В 1918 году в связи с переездом Центрального управления Госбанка (Нарбанка РСФСР) в Москву, Петроградская контора Госбанка была преобразована в Северо-Областную контору Нарбанка РСФСР. Народный банк РСФСР прекратил свое существование 19 января 1920 года, в соответствии с декретом СНК он был преобразован в Центральное бюджетно-расчетное управление.

В октябре 1921 года был принят Декрет об учреждении Государственного банка РСФСР. Новый Банк был учрежден постановлением СНК РСФСР от 10 октября 1921 года. Северо-Областная контора была преобразована в Северо-Западную контору Госбанка РСФСР. В 1927 году Северо-Западная контора Госбанка СССР была преобразована в Ленинградскую контору Госбанка СССР. В 1930 году Госбанком СССР и его конторами была проведена кредитная реформа.

В январе 1938 года на основании разрешения Совета Народных Комиссаров СССР был принят приказ по Госбанку СССР «О разделении Ленинградской конторы Госбанка СССР на областную и городскую конторы, непосредственно подчиненные Правлению Госбанка».

В июле 1987 года в связи реорганизацией кредитной системы, в результате которой были образованы новые спецбанки (Внешэкономбанк СССР, Промстройбанк СССР, Жилсоцбанк СССР и Сбербанк СССР), Госбанк стал выполнять функции банка банков страны. На него возлагалась разработка сводного кредитного плана и планов распределения ресурсов и кредитных вложений по всем банкам. Ленинградская городская контора была преобразована в Ленинградское городское управление Госбанка СССР (ЛГУ Госбанка СССР). 24 августа 1990 года Ленинградское городское управление Госбанка СССР было преобразовано в Главное управление Госбанка СССР по городу Ленинграду.

2 декабря 1990 года Верховным Советом РСФСР был принят Закон РСФСР «О Центральном банке РСФСР (Банке России)». В законе были определены функции банка в области организации денежного обращения, денежно-кредитного регулирования, внешнеэкономической деятельности и регулирования деятельности акционерных и кооперативных банков.

28 февраля 1991 года городское управление стало называться Главным управлением Госбанка РСФСР по Ленинграду. Статус Госбанка РСФСР возрос, и его решили преобразовать в Центральный банк РСФСР, а соответственно при этом изменили наименования и территориальных учреждений.

В соответствии с Указом Президиума Верховного Совета РСФСР «О возвращении городу Ленинграду его исторического названия Санкт-Петербург», Центральный банк РСФСР издал приказ от 18 сентября 1991 года и с 26 сентября 1991 года территориальное учреждение Банка России, находящееся в Санкт-Петербурге, стало официально называться Главным управлением Центрального банка РСФСР по Санкт-Петербургу.

Законом РСФСР «Об изменении наименования Российская Советская Федеративная Социалистическая Республика» от 25 декабря 1991 года было юридически закреплено наименование государства — Российская Федерация. Центральный банк РСФСР и его территориальное учреждение в Санкт-Петербурге стали именоваться Центральный банк Российской Федерации и Главное управление Центрального банка Российской Федерации по Санкт-Петербургу соответственно.