На одной из отдаленных улиц Москвы в сером доме с белыми колоннами жила вдовствующая барыня, окруженная многочисленными слугами. Среди ее челяди особенно выделялся дворник Герасим – глухонемой от рождения мужчина. Он был одарен необычайной, богатырской силой, работал за четверых, и любое дело «спорилось в его руках».
Когда-то барыня привезла Герасима из деревни. Сначала он тосковал по родным местам, но вскоре привык к городской жизни. Дворовые люди уважали и побаивались Герасима. Мужчина жил в отведенной для него каморке над кухней, которую он обустроил по-своему и всегда запирал на замок.
Спустя год старая барыня решила женить горького пьяницу Капитона на прачке Татьяне, надеясь, что женитьба сможет его исправить.
Татьяна была девушкой несчастной судьбы, она с ранних лет много работала за гроши, всех и всего боялась. Особенно Татьяну пугал «громадный» Герасим. Посмеиваясь над ее пугливостью, мужчина вскоре полюбил девушку. С тех пор Герасим старался всегда быть с ней рядом, дарил ей подарки делать трудную работу, не давал дворовым смеяться над тихой Татьяной. Мужчина уже собирался жениться на девушке, но ждал, когда ему пошьют новый кафтан, чтобы предстать со своей перед барыней в приличном виде.
Дворецкий Гаврила, которому барыня поручила устроить свадьбу Татьяны и Капитона, боялся, что, узнав о предстоящей свадьбе, Герасим в приступе гнева может разрушить весь дом. Посоветовавшись с дворовыми, дворецкий решил обмануть глухонемого. Зная, что Герасим не переносит пьяных, Гаврила уговорил Татьяну пройтись мимо него, изображая «хмельную». Увидев девушку пьяной, Герасим тут же отвел ее к Капитону, а сам ушел в свою каморку и не выходил оттуда целые сутки, став после этого еще более угрюмым.
Спустя год после свадьбы Капитон окончательно спился, и барыня отправила его вместе с женой в дальнюю деревню. На прощание Герасим подарил Татьяне красный бумажный платок. Женщина прослезилась и по-христиански три раза поцеловала мужчину.
Герасим проводил их до Крымского Брода и, уже возвращаясь домой, заметил барахтающегося в воде щенка. Мужчина взял собачонку с собой, сделал для нее в своей каморке лежанку из соломы и накормил молоком. Как оказалось, это была собачка испанской породы с длинными ушами и выразительными глазами. Мужчина к ней сильно привязался и назвал ее Муму. Так ещё год.
Как-то барыня заметила лежащую под кустом Муму и приказала привести собачку к ней. Муму была очень напугана новой обстановкой, поэтому, когда женщина попыталась ее погладить, оскалила зубы. Настроение барыни тут же ухудшилось, и она приказала Гавриле как можно быстрее избавиться от животного. Пока Герасим был занят, лакей Степан по распоряжению дворецкого отвез Муму в Охотничий ряд, где продал ее покупщику, попросив неделю держать собаку на привязи. Герасим её звал, искал, обегал пол-Москвы. После исчезновения собаки лицо Герасима «и без того безжизненное, как у всех глухонемых, теперь словно окаменело». И в одну из ночей Муму сама прибежала к нему с обрывком веревки на шее.
С этого момента Герасим начал прятать собаку в своей каморке. Все слышали доносившиеся из его комнаты звуки, но из жалости не докладывали о появлении Муму барыне. Однако как-то ночью собака начала громко лаять на приблудившегося пьяницу. Проснувшаяся от лая барыня была возмущена происходящим и снова потребовала избавиться от собаки.
Чувствуя опасность, Герасим закрылся с Муму в каморке и только утром открыл дверь дворецкому. Гаврила передал знаками приказ барыни. Герасим, осознав, что от него требуется, в ответ дал понять, что сам решит вопрос с Муму.
Через час Герасим, одетый в праздничный кафтан, повел собаку в трактир, где накормил ее щами с мясом. Пока Муму ела, «две тяжелые слезы выкатились вдруг из его глаз». После этого Герасим повел собаку к Крымскому броду, взял два кирпича и сел вместе с Муму в одну из лодок, стоящих на берегу. Отплыв далеко от берега, он «с каким-то болезненным озлоблением на лице» окутал веревкой кирпичи, приделал петлю и повязал ее на шею собаке. Ничего не подозревающая Муму доверчиво поглядывала на него. «Он отвернулся, зажмурился и разжал руки… Герасим ничего не слыхал, ни быстрого визга падающей Муму, ни тяжкого всплеска воды».
После этого Герасим ушел со двора, вернулся в родную деревню. Узнав о пропаже мужчины, барыня сначала разгневалась и приказала его отыскать, но, когда ей передали, что глухонемой вернулся в родную деревню, «объявила, что такой неблагодарный человек ей вовсе не нужен».
«И живет до сих пор Герасим бобылем в своей одинокой избе». Со времени своего возвращения из Москвы он совсем перестал водиться с женщинами, даже не глядит на них, и ни одной собаки у себя не держит».
