Двенадцатилетним остался без отца. Детей воспитывала мать. Несмотря на большие материальные затруднения, Карбышев блестяще закончил Сибирский кадетский корпус и в 1898 году был принят в Петербургское Николаевское военно-инженерное училище. В ходе русско-японской войны в составе батальона укреплял позиции, устанавливал средства связи, наводил мосты, вёл разведку боем. Участвовал в сражении под Мукденом. Награждён орденами и медалями. Войну закончил в чине поручика.
Дмитрий Карбышев — участник первой мировой войны с первого дня. Воевал в Карпатах в составе 8-й армии генерала А. А. Брусилова (Юго-Западный фронт). Был дивизионным инженером 78-й и 69-й пехотных дивизий, затем начальником инженерной службы 22-го финляндского стрелкового корпуса. В начале 1915 года участвовал в штурме крепости Перемышль. Был ранен. За храбрость и отвагу награждён орденом св. Анны и произведён в подполковники. В 1916 году был участником знаменитого Брусиловского прорыва.
В декабре 1917 года в Могилёв-Подольском Д. М. Карбышев вступил в Красную гвардию. С 1918 года в Красной Армии. Во время Гражданской войны участвовал в строительстве Симбирского, Самарского, Саратовского, Челябинского, Златоустовского, Троицкого, Курганского укреплённых районов, обеспечивал инженерное обеспечение Каховского плацдарма. Занимал ответственные должности в штабе Северо-Кавказского военного округа.
Карбышеву принадлежит наиболее полное исследование и разработка вопросов применения разрушений и заграждений. Значителен его вклад в научную разработку вопросов форсирования рек и других водных преград. Он опубликовал более 100 научных трудов по военно-инженерному искусству и военной истории. Его статьи и пособия по вопросам теории инженерного обеспечения боя и операции, тактике инженерных войск были основными материалами по подготовке командиров Красной Армии в предвоенные годы.
За пару недель до начала Великой Отечественной войны был командирован в Гродно для оказания помощи оборонительному строительству на западной границе. 8 августа при попытке вырваться из окружения в районе севернее Могилева был контужен и захвачен гитлеровцами в плен. Карбышев содержался в немецких концентрационных лагерях: Замосць, Хаммельбург, Флоссенбюрг, Майданек, Освенцим, Заксенхаузен и Маутхаузен. Неоднократно от администрации лагерей получал предложения сотрудничать. Несмотря на свой возраст был одним из активных руководителей лагерного движения сопротивления. В ночь на 18 февраля 1945 года в концлагере Маутхаузен (Австрия), в числе других заключённых (около 500 человек), был облит водой на морозе и погиб.
Впервые стало известно о гибели Карбышева через год после окончания войны. 13 февраля 1946 г. майор канадской армии Седдон Де-Сент-Клер, находившийся на излечении в госпитале под Лондоном, пригласил к себе представителя Советской миссии по делам репатриации в Англии, чтобы сообщить «важные подробности».
«Мне осталось жить недолго, — сказал майор советскому офицеру, — поэтому меня беспокоит мысль о том, чтобы вместе со мной не ушли в могилу известные мне факты героической гибели советского генерала, благородная память о котором должна жить в сердцах людей. Я говорю о генерал-лейтенанте Карбышеве, вместе с которым мне пришлось побывать в немецких лагерях».
По словам офицера, в ночь с 17 на 18 февраля около тысячи пленных немцы пригнали в Маутхаузен. Мороз стоял около 12 градусов. Все были одеты очень плохо, в рванье.
«Как только мы вступили на территорию лагеря, немцы загнали нас в душевую, велели раздеться и пустили на нас сверху струи ледяной воды. Это продолжалось долго. Все посинели. Многие падали на пол и тут же умирали: сердце не выдерживало. Потом нам велели надеть только нижнее белье и деревянные колодки на ноги и выгнали во двор. Генерал Карбышев стоял в группе русских товарищей недалеко от меня. Мы понимали, что доживаем последние часы. Через пару минут гестаповцы, стоявшие за нашими спинами с пожарными брандспойтами в руках, стали поливать нас потоками холодной воды. Кто пытался уклониться от струи, тех били дубинками по голове. Сотни людей падали замерзшие или с размозженными черепами. Я видел, как упал и генерал Карбышев», — с болью в сердце излагал канадский майор.
«В ту трагическую ночь в живых осталось человек семьдесят. Почему нас не прикончили, не представляю. Должно быть, устали и отложили до утра. Оказалось, что к лагерю вплотную подходили союзные войска. Немцы в панике бежали… Я прошу вас записать мои показания и переслать их в Россию. Я считаю своим священным долгом беспристрастно засвидетельствовать все, что я знаю о генерале Карбышеве. Я выполню этим свой маленький долг перед памятью большого человека», — такими словами закончил свой рассказ канадский офицер.
16 августа 1946 г. генерал-лейтенанту Дмитрию Карбышеву было посмертно присвоено звание Героя Советского Союза. Как записано в указе, это высокое звание присвоено генералу-герою, трагически погибшему в фашистском плену, «за исключительную стойкость и мужество, проявленные в борьбе с немецкими захватчиками в Великой Отечественной войне».
28 февраля 1948 г. главнокомандующий Центральной группой войск генерал-полковник Курасов и начальник инженерных войск ЦГВ генерал-майор Слюнин в присутствии делегаций от войск группы почетного караула, а также правительства Австрийской Республики открыли памятник и мемориальную доску на месте, где фашисты зверски замучили генерала Карбышева на территории бывшего гитлеровского концентрационного лагеря Маутхаузен.
В России его имя увековечено в названиях воинских коллективов, кораблей и железнодорожных станций, улиц и бульваров многих городов, присвоено многочисленным школам. Между Марсом и Юпитером совершает путь по околосолнечной орбите малая планета # 1959 — Карбышев.