1920 թ-ից հետո եղել է Հայկական հրաձգային դիվիզիայի գնդացրային էսկադրոնի, 1923–31 թթ-ին՝ հեծելագնդի հրամանատար, ապա՝ 5-րդ հեծյալ դիվիզիայի շտաբի պետ: Խորհրդային հայրենական պատերազմի (1941–45 թթ.) նախօրեին գնդապետ Բաղրամյանը նշանակվել է Կիևի հատուկ ռազմական օկրուգի շտաբի օպերատիվ բաժնի պետ, ապա՝ Հարավարևմտյան ռազմաճակատի շտաբի պետի տեղակալ: Պլանավորել և կազմակերպել է ռազմաճակատի զորքերի նահանջը և Կիևի պաշտպանությունը: Նրա նախաձեռնությամբ է մշակվել Հարավային ուղղությամբ զորքերի հակահարձակումը և 1941 թ-ի նոյեմբերին Ռոստովի ազատագրումը: Դեկտեմբերին պլանավորել և իրականացրել է Ելեցի ռազմական գործողությունը: 1942 թ-ի սկզբին եղել է Հարավարևմտյան ուղղության օպերատիվ խմբի (մայիսից՝ շտաբի) պետ, 1942 թ-ի հուլիսից՝ ռազմական գործողությունների անմիջական հրամանատար: Նրա գլխավորությամբ 16-րդ բանակը պաշտպանել է Մոսկվայի մատույցները՝ Արևմտյան ռազմաճակատի հարավային թևում, 1943 թ-ի հուլիս-օգոստոսին աչքի է ընկել Կուրսկի ճակատամարտում և մի շարք հարձակողական ռազմագործողություններում:

1943 թ-ի նոյեմբերի 19-ից, որպես 1-ին Մերձբալթյան ռազմաճակատի հրամանատար, մասնակցել է Բելոռուսական ռազմական գործողություններին, Գորոդոկի, Վիտեբսկի, Պոլոցկի ազատագրմանը, 1944 թ-ին Մերձբալթիկայում մղված մարտերին, սեպտեմբերին մոտեցել է Ռիգային: Մեմելի (այժմ` Կլայպեդա) մոտ դուրս գալով Բալթիկ ծովի ափ՝ հնարամիտ գործողությամբ ջախջախել է թշնամու Կուռլանդական խմբավորումը (38 հետևակային և տանկային դիվիզիաներ): Բաղրամյանի ղեկավարած այդ ռազմագործողությունն ուսուցանվում է զինվորական ակադեմիաներում՝ որպես ռազմաճակատի զորքերը մի ուղղությունից մեկ այլ ուղղություն անցնելիս վերախմբավորվելու և հաղթանակ ապահովելու օրինակ:

1-ին մերձբալթյան ռազմաճակատի լուծարումից հետո բանակի գեներալ Բաղրամյանը գլխավորել է Զեմլանդական զորախումբը (3-րդ Բելոռուսական ռազմաճակատի կազմում): Նրա հրամանատարությամբ զորքերը վերացրել են հակառակորդի՝ Արևելյան Պրուսիայի խմբավորումը և 1945 թ-ի ապրիլի 6–10-ը գրավել դրա կենտրոն Քյոնիգսբերգ ամրոց-քաղաքը (1946 թ-ից՝ Կալինինգրադ): Ապա նշանակվել է 3-րդ Բելոռուսական ռազմաճակատի հրամանատար, իրականացրել ֆաշիստական զորքերի վերջնական ջախջախումը Արևելյան Պրուսիայում:

Պատերազմից հետո՝ 1945–54 թթ-ին, Բաղրամյանը եղել է Մերձբալթյան ռազմական օկրուգի հրամանատար, 1954 թ-ից՝ ԽՍՀՄ պաշտպանության նախարարության գլխավոր ռազմական տեսուչ, պաշտպանության նախարարի տեղակալ, 1956–58 թթ-ին՝ Գլխավոր շտաբի ռազմական ակադեմիայի պետ, 1959 թ-ից՝ ԽՍՀՄ զինված ուժերի թիկունքի պետ, 1968 թ-ից՝ ԽՍՀՄ պաշտպանության նախարարության գլխավոր ռազմական տեսուչ և տեսուչների խմբի ղեկավար:

Գրել է ռազմագիտական աշխատություններ և հուշագրություններ ու հոդվածներ (թարգմանվել են գերմաներեն, հայերեն, լեհերեն, ռումիներեն, հունգարերեն), խմբագրել ռազմագիտական ուսումնասիրություններ ու դասագրքեր: Նրա գործունեության մասին գրվել են գրքեր:

Բաղրամյանի անունով կոչվել են փողոցներ Բելառուսի Գորոդոկ և Պոլոցկ քաղաքներում, Մոսկվայում, իսկ Երևանում՝ մետրոպոլիտենի կայարան, պողոտա, որտեղ կանգնեցված է Բաղրամյանի ձիարձանը: