Архитектура жилых домов Симбирска, в основном, была представлена домами-особняками, рассчитанными на проживание одной семьи, и доходными домами, как правило, включающими несколько квартир.
Двухэтажный каменный дом по ул. Л.Толстого №51, ранее занимаемый художественной галереей «Ленин в изобразительном искусстве", был построен в 1905—1906 гг. по проекту А.А. Шодэ для барона Х.Г. Штемпеля и представляет собой интересный образец аристократического особняка, резко выделяющегося на фоне сплошной деревянной застройки. Особняк находится на территории усадьбы Дома-музея В.И. Ленина и с 1941 по 1970 гг. использовался под филиал Центрального музея В.И. Ленина.
Дом имеет рациональную «Г»–образную форму в плане и несколько отступает от красной линии улицы, отгороженной от нее высокой оградой с каменными столбами и металлической решеткой.
Вход в дом со двора. Комнаты расположены анфиладой по периметру здания, разделенного продольной капитальной стеной.
Интерьеры комнат имеют сравнительно простую отделку.
Особый интерес представляет главный фасад с двумя ризалитами по углам. Высокий цоколь, русты по углам стен, прямоугольные и лучковый карнизы окон, междуэтажный поясок и завершающий арочный аттик над угловым ризалитом составляют основное украшение здания.
Характерной особенностью особняка является установка на столбиках парапета небольших скульптурных ваз с олимпийским огнем и алагреками, а также прорисовка цепочек кирпичной кладки на штукатурном слое фасадных стен второго этажа (такой прием был использован на здании Краеведческого и Художественного музеев).
В этом здании, как и во многих других, творчество архитектора отличает своеобразная трактовка в использовании мотивов стиля французского ренессанса и современных материалов из бетона, металла и цементной штукатурки.
В композицию главного фасада введен излюбленный автором красный цвет в сочетании с серым.
Хотя бывший особняк нарушает исторический облик мемориальной усадьбы, связанной с В.И. Лениным и семьей Ульяновых, но он приобрел и самостоятельное значение, как первое здание Ульяновского филиала Центрального музея В.И. Ленина, что придало ему самостоятельное значение исторического памятника.
Здание принято под охрану государства как памятник архитектуры местного значения. Ныне в нем размещается «Художественная галерея искусства двадцатого века».
