Шерман родился в Ланкастере, штат Огайо. Он окончил Военную академию США в Вест-Пойнте в 1840 году и прослужил в армии США 38 лет. Он участвовал в американо-мексиканской войне и войнах семинолов, а также выполнял различные другие задания до гражданской войны.
В начале Гражданской войны Шерман служил в Кентукки и Теннесси, где привлек внимание своей агрессивной тактикой и получил прозвище «Билли Янк». Он был одним из генералов Союза, участвовавших в кровопролитной битве при Шайло в апреле 1862 года.
В начале 1863 года Шерману было поручено командовать XV корпусом армии Теннесси, который он возглавлял в Виксбургской кампании. Позже он командовал армией Теннесси в кампании в Чаттануге, где возглавил успешные штурмы Миссионерского хребта и Лукаут-Маунтин.
Шерман совершил свой знаменитый марш через Джорджию и Каролину в 1864–1865 годах, кульминацией которого стал захват Колумбии, Южная Каролина, и капитуляция армии Конфедерации под командованием генерала Роберта Э. Ли. Маршу Шермана часто приписывают ускорение окончания войны.
После гражданской войны Шерман служил командующим армией Соединенных Штатов с 1869 по 1883 год. Он также служил в Конгрессе, представляя Огайо с 1875 по 1881 год. Шерман умер в Нью-Йорке в 1891 году.
Шерман был противоречивой фигурой при жизни и остается таковой по сей день. Его военная тактика, особенно его использование войны на выжженной земле во время марша через Джорджию и Каролину, подверглась критике со стороны некоторых в то время и продолжает обсуждаться историками. Однако нет никаких сомнений в том, что Шерман был одним из самых успешных и влиятельных генералов Гражданской войны.