Приход был образован после упразднения мужского Герасимова Троицкого монастыря, что на Кайсарове ручье. Монастырь был основан в середине XII века преподобным Герасимом, Вологодским чудотворцем (скончался в 1178 году) и упразднен до 1764 г. В окладных церковных книгах XVII в. (начиная с 1618 года) Троицкая у Кайсарова ручья церковь значится уже приходской с причтом белого духовенства.

Церковь располагалась на краю города, почти на самом выезде из него, в 1.5 верстах от Софийского собора. Недалеко стояла Лазаревская кладбищенская церковь, встарину называвшаяся "Преп. Димитрия Селунского, что у "убогих домов". Также поблизости находились загородная поляна, на которой некогда устраивались народные гулянья в Семик и в Троицын день, и могила Белоризцев, обозначенная деревянной часовней.

В 1717 году начато строительство каменной Троицкой церкви, на иждивение Марка, Ивана и Матвея Афанасьевых детей Колесовых, а также других прихожан этой церкви, по храмозданной грамоте Преосвященного Павла, епископа Вологодского и Белоезерского, данной 9 августа 1717 года. Была построена одноэтажная, одноглавая церковь в одной связи с колокольней. В 1856 году небольшие двери, отделявшие холодное и теплое отделения церкви, были заменены просторной аркой. Весь храм обогревался зимой тремя железными печами. Колокольня и трапеза построены в 1876 г.

Престолы в честь: Святой Троицы - главный, свт. Иоанна Милостивого, Патриарха Александрийского - на южной стороне, прп. Герасима Вологодского (всех Вологодских чудотворцев ?) - на северной. Придел во имя свт. Иоанна Милостивого был устроен около 1727 года и освящен в том же году, при Вологодском епископе Афанасии Кондоиди. В 1856 году в приделах были установлены новые иконостасы.

В храме под спудом покоились мощи прп. Герасима Вологодского. Рака с мощами находилась в северо-западном углу храма, усроена в 1857 г.

Одной из святынь храма была икона Благовещения, на которой имелась надпись: "Лета 7197 (1689) году марта в - день написан сей святый образ по обещанию Сергея Николаева сына Тебенькова Вологодскими изуграфы Ермолаем и Петром во славу Бога".

Церковь содержалась главным образом на пожертвования жителей Вологды и других почитателей памяти преп. Герасима, а также на проценты с капитала, образовавшегося также из пожертвований и составлявшего в 1868 г. 2310 руб.

Причт состоял из священника и двух причетников. Содержался на скудные доходы от малочисленного прихода - около 200 руб. в год, а также на доходы от семи огородных и сенокосных участков в городе, полученных по завещаниям в пользу причта, - около 100 рублей в год (сведения о доходах даны на 1868 г.).