С августа 1942 года – в Красной Армии. Участник Великой Отечественной войны. В 1944 году вступил в ВКП(б)/КПСС. В 1944-1945 годах – телефонист, командир отделения связи, начальник радиостанции роты связи 49-го стрелкового полка 50-й стрелковой дивизии 2-го и 1-го Украинских фронтов, сержант. Принимал участие в освобождении Украины, Молдавии, Румынии, Польши.
Закончил свой фронтовой путь в Чехословакии. Награжден орденом Отечественной войны 2-й степени и боевыми медалями. После войны служил в Средней Азии. Демобилизовавшись из Вооруженных Сил, приехал на Колыму в посёлок городского типа Палатка (с 1967 года – Хасынского района) Магаданской области.
С 1954 года и до выхода на пенсию бессменно работал водителем Палаткинской автобазы объединения «Северовостокзолото», был бригадиром шофёрской бригады. Указом Президиума Верховного Совета СССР от 30 марта 1971 года за выдающиеся успехи, достигнутые в развитии цветной металлургии, Коваленко Дмитрию Матвеевичу присвоено звание Героя Социалистического Труда с вручением ордена Ленина и золотой медали «Серп и Молот». В дальнейшем вышел на пенсию. Избирался членом Магаданского обкома и Хасынского райкома КПСС.
Затем проживал в г. Никополь Днепропетровской области (Украина).