После конференции за круглым столом Ганди встретился с Хоаром, министром по делам Индии в Лондоне, и попросил его решить проблему Индии. Хоар прямо ответил Ганди, что вам ничего не будет дано и теперь мы даже Конгрессу не позволим выжить.
Таким образом, 28 декабря 1931 года Ганди вновь вернулся из дверей британцев с пустыми руками. Новый вице-король лорд Уиллингдон объявил Конгресс незаконным учреждением. 4 января 1932 года правительство без объяснения причин заключило Сардара Пателя и Ганди в тюрьму Йервада. Сардар Патель провел 16 месяцев с Ганди в тюрьме Йервада. Гандиджи не употреблял чай и рис.
Именно поэтому Сардар Патель за это время не пил чай и не ел рис. Он всегда полностью заботился о Ганди и занимался его небольшими делами. Ганди вставал в четыре часа утра, Патель тоже вставал в четыре часа. Если бы Ганди встал раньше, Патель встал бы в то же время. Если бы Ганди сказал, что вам следует поспать еще немного, ответ Пателя был бы таким:как может быть, что вы просыпаетесь, а я сплю? После выхода из тюрьмы Ганди записал в дневнике, что Сардар так много мне помог в тюрьме, что я вспомнил свою мать.
Мать Сардара Пателя скончалась вскоре после того, как попала в тюрьму. Правительство предлагало освободить Сардара на определенных условиях, но Патель потребовал безусловного освобождения. Правительство отказалось безоговорочно освободить Пателя. Патель оплакивал смерть своей матери в самой тюрьме.
В следующем, 1933 году, Сардар узнал, что его предок Витхалбхай умер за границей. Его тело было доставлено в Бомбей для последнего обряда. Все хотели, чтобы Валлабхай присутствовал на его похоронах, но правительство снова предложило освободить его на определенных условиях, и Валлабхай и на этот раз отказался принять условия правительства. Правительство, вероятно, до сих пор не понимало, что этот человек был сделан из железа, а не костей и плоти.
В тюрьме здоровье Валлабхбая ухудшилось. Боль в носу усилилась. Из-за этого стало трудно дышать. Бригада врачей осмотрела состояние здоровья Сардара и посоветовала ему немедленно сделать операцию. В конечном итоге правительство Гори согласилось освободить их безоговорочно. В 1934 году правительство освободило Пателя. Патель прибыл в Бомбей из Йервады. Таким образом, после долгих страданий, ему прооперировали нос.
