Святой Герман жил отшельником на реке Выге, при часовне. Около 1429 года здесь нашел его преподобный Савватий, постриженик Валаамской обители, искавший уединенного места для своих подвигов. Герман рассказал Савватию о Соловецком острове, и оба преподобных, переплыв море, поселились на Соловках. Они построили себе келлию под Секирной горой, в которой прожили шесть лет. По преставлении Савватия († 27 сентября 1435 г.), преподобный Герман продолжал пустынные подвиги на острове с другим пустынником, преподобным Зосимой (память 17 апреля). Герман прожил на острове более пятидесяти лет.
Будучи неграмотным, но вразумляемый Божиим Промыслом и желая сохранить память о подвигах преподобного Савватия для назидания многих, он приказал клирикам записать свои воспоминания о преподобных Савватии и Зосиме, о событиях, происшедших при их жизни. Преподобный Герман любил слушать назидательное чтение и завещал ученикам собирать в обитель книги. Для хозяйственных и иных нужд обители преподобный до глубокой старости совершал опасные плавания и дальние путешествия на материк. В одной из таких поездок в Новгород в 1479 году он скончался в Антониевом монастыре. Тело его повезли в Соловецкую обитель, но из-за распутицы принуждены были похоронить у часовни в деревне Хавроньиной на реке Свири. В 1484 году, когда решено было перенести гроб на место подвигов преподобного, мощи его обрели нетленными.