Летом 1950 года здоровье Пателя резко ухудшилось. В его кашле была кровь. Манибен сократил количество встреч и рабочего времени Пателя, а для ухода за здоровьем Пателя был назначен личный медицинский персонал. Главный министр Западной Бенгалии Бидхан Рой, который также был врачом, узнал, что Патель теперь шутил по поводу его близкой смерти, и спросил своего коллегу-министра Н.В. Еще до Гаджила было сказано, что теперь он долго не проживет. 2 ноября 1950 года здоровье Пателя ухудшилось. Он снова и снова начал терять сознание. Его доставили в Дели 12 декабря 1950 года.
В тот день Неру, Раджагопалачари, Раджендра Прасад и Менон пришли проводить его в аэропорт Дели. Патель стал очень слабым. Его посадили в самолет вместе со стулом. Огромная толпа стояла, чтобы приветствовать его в аэропорту Санта-Крус в Бомбее. Пателя приземлили в аэропорту Джуху, чтобы избежать напряженности. Здесь его приветствовали главный министр Б. Джитра Кхер и Морарджи Десаи.
За ним приехала машина губернатора Бомбея, на которой он добрался до дома Бирла. 15 декабря 1950 года он перенес второй острый сердечный приступ и умер. На следующий день после его смерти более полутора тысяч офицеров индийской государственной службы и индийской полицейской службы посетили резиденцию Пателя в Дели и отдали ему дань уважения. Он принес клятву полной преданности Матери Индии. Подобная сцена еще никогда не наблюдалась в истории Индии. Правительство Бомбея планировало провести его последние обряды в Гиргаум Чоупатти, но Манибен сказал, что сардар хотел, чтобы его последние обряды были совершены в Сонапуре, как обычный человек.
Теперь это место называется Marine Lines. Здесь были кремированы брат Пателя и жена Пателя. На его похороны пришло миллион человек. Премьер-министр Неру, Раджагопалачари и президент доктор Раджендра Прасад также присутствовали. После его смерти Manchester Guardian написала, что одному и тому же человеку редко удавалось добиться успеха в качестве бунтовщика и государственного деятеля, но Патель в этом отношении был исключением.
