От март до ноември 1908 г и от март до септември 1910 г. в Баиловския затвор бил задържан Сталин.
По-късно неговата килия №39 е превърната в музей.
Йосиф Сталин е бил първият, на който му се отдало да избяга от този затвор.
Второто успешно бягство са извършили 10 човека осъдени на смърт, които изкопали канал в нощта на 1 октомври 1994 г.
През 2009 г. затворът бил унищожен във връзка със установяването на площад на държавния флаг.