1937年12月12日，唐生智召集参加南京保卫战的各部队长官开会，发布突围命令。教导总队总队长桂永清开完会就直接自己先走了，派人传话给时任教导总队少将参谋长的邱清泉，让他代为传达命令，组织各部队突围。教导总队下属的三个旅的旅长也都开始各自逃走了，但邱清泉还在掩体里一边抽烟，一边打电话，联络各个部队，希望能带着部队一起突围。
但他最终也没能联系上更多的部队，他自己也未能在日军进城之前逃出去，最后没办法，只好和时为中校参谋的廖耀湘两个人一起，化妆后藏匿在民间，等到日军的大屠杀结束，才找机会逃出了南京。可以说，在南京保卫战中，作为高级将领，是他是少有的坚持到最后时刻仍然没有扔下部队自己直接逃走的人之一，当时包括宋希濂、王耀武等人，都已经扔下部队自己走了，邱清泉还是没走。
作为黄埔军校二期生，邱清泉在土地革命战争时期，因为围剿红军作战表现积极，就开始不断晋升，并于1934年得到了前往德国进修，学习军事的机会。虽然他在黄埔军校是工兵科毕业，但在德国柏林陆军大学学习的时候，却接触到了尚未大规模投入实战的机械化部队作战指挥，而他的老师之一，就是二战的德军名将古德里安。这也是他后来能够一直在200师和第五军的原因。 6park.com

1938年，国军统帅部决定，利用苏联援助的武器装备，将杜聿明任团长的装甲兵团扩编为一个机械化部队，也就是200师，这是国军的第一支机械化部队。在组建之初，杜聿明到处搜罗相关人才，于是在德国学习过机械化部队作战指挥的邱清泉，和在法国学习过的廖耀湘都被调入了200师。杜聿明担任200师师长的，时候邱清泉担任副师长。之后在200师基础上组建第五军，邱清泉又担任了副军长。
组建第一期中国远征军入缅作战的时候，邱清泉随军出征，仍然担任第五军副军长，杜聿明任军长。第五军惨败而回之后，200师奉调回国，新编22师和新百年28师撤往印度英帕尔，之后在兰姆伽接受美援装备，组建了新一军。国军统帅部一度想让邱清泉出任新一军军长，但最终考虑到邱清泉性格桀骜不驯，嚣张跋扈，担心他无法与美军共事，于是改任他的黄埔一期师兄郑洞国为新一军军长。
200师奉调回国之后，与96师，加上新调入的45师，重建了第五军，并且扩编为第五集团军，杜聿明升任第五集团军总司令，邱清泉继任第五军军长，执掌这支国军五大主力之一的劲旅。抗战结束后，杜聿明出任东北保安司令，新一军、新六军、七十一军等远征军老部队纷纷调往东北参战，而第五军却被留在了关内，邱清泉便作为第五军军长率领着这支部队一直在华东和中原战场作战，多次与解放军交手。

1948年5月的城南庄会议上，西柏坡决定粟裕率三个纵队渡江南下，粟裕思前想后觉得渡江南下不如留在江北打大仗，于是在陈毅的支持下上书中央，斗胆直陈，并被召往西柏坡在五大书记全部参加的会议上陈述他的理由。粟裕最终说服力李德胜，同意他暂缓渡江南下，但条件是他在一年之内必须消灭第五军，可见第五军在当时西柏坡的心目中，是华东战场的头号敌人。
粟裕回到华野，开始考虑如何歼灭第五军的问题，之后就爆发了豫东战役，而豫东战役中围攻开封攻城打援，打援的目标就是吸引第五军前来增援，在半路上设伏围歼。但因为邱清泉战场嗅觉灵敏，发现战场形势险象环生，所以一贯增援友军磨磨蹭蹭的他，却突然急速前进，直奔开封，把本想跟着他一起走的区寿年兵团丢在了后面，导致区寿年兵团几乎全军覆没。
也是在救援区寿年兵团和之后赶来救援反被包围、被打得脱了一层皮的黄百韬的整编二十五师的时候，邱清泉再次表现勇猛，除了正面强攻解放军的阻击阵地之外，又抽调部队从侧翼迂回，插到了阻击部队中野十一纵的身后，导致整个战场形势顿时发生翻天覆地的变化，粟裕不得不放弃了已经到了嘴边的黄百韬，下令全军撤退，渡过黄河，以至后来一些人认为豫东战役是先胜后败，撤离时十分狼狈。

之后，国军统帅部改变策略，编组大兵团，在邱清泉第五军的基础上，编入七十军、七十四军、七十二军，共计四个军，人数约十二万人，组建了第二兵团，和黄百韬兵团、黄维兵团一样，是三大战役之前中央军嫡系部队中硕果仅存的重兵集团。在淮海战役期间，无论是救援黄百韬兵团，还是救援黄维兵团，真正的作战主力实际上都是邱清泉的第二兵团，这也是为什么最后只能用杜聿明来实际负责指挥的原因。
杜聿明率三个兵团从徐州撤退之后，原本计划直接经萧县、永城、蒙城撤往阜阳，然后到蚌埠，但却在三天之后就被迫停在了陈官庄，并且被包围在这里。但这时候杜聿明感觉自己实际上也不一定能完全驾驭邱清泉，在决策是否突围的问题上，都要受制于邱清泉的意见，他甚至认为，邱清泉有点在监视他的意思。但杜聿明仍然比较相信第五军，在最后突围时，他也是和邱清泉一起，由第五军的部队护送突围。
相比其他的黄埔嫡系将领，邱清泉也是淮海战役中自杀的两个高级将领之一。淮海战役中不少人跑了，比如时任第五军军长熊笑三之后就突然消失了，再无音讯，黄维号称对委员长最为忠诚，被俘后也没有自杀，而黄百韬和邱清泉却都自杀了。按照第二兵团的人的回忆，在下令突围之后，邱清泉并没有随着杜聿明一起突围，而是真的像疯了一样，到处乱跑，一边跑一边喊“共军来了”。

此外，看过老电影《淮海战役》的人可能都对邱清泉的张狂印象非常深刻，不管走到哪儿，都牵着一条狼狗，抽着雪茄，在刘峙召集的军事会议上故意用德文跟身边的人议论，讽刺本该派一头老虎，起码也应该派一条狗来给南京守大门，结果却派来了刘峙这头猪。之后又说，刘总司令胆小如鼠，如果按照杜长官的意见，早都收复济南了。可见这时候他非常狂妄，把谁都不放在眼里。
按照第二兵团参谋长李汉萍的回忆，在被包围之后，尤其是黄维兵团全军覆灭之后，邱清泉实际上也对前途感到非常渺茫，也没信心了。他也开始一改之前在军中嚣张跋扈、骂这个骂那个、动不动就声称要把别人杀头的形象，直接放浪形骸了。尤其是被大雪困住的十天，邱清泉每天都和一个女护士厮混在一起，喝得醉醺醺的，经常下属找他也找不到。一次李汉萍说，再这样下去，就要崩溃了。邱清泉直接回答说，就让他崩溃好了！
他还跟李汉萍说，我活了46岁，什么都经历过了，也够了。这个说法就很容易让人想起仰光被困在扬州之后说够的那句话，大好头颅，不知将来会被谁砍掉？他又说，如果自己战死了，要李汉萍代他指挥下属部队突围。李汉萍说，70军的军长高吉人等人资历都比他深多了，他指挥不了，邱清泉才又另外指定了一个代替指挥的顺序，将高吉人排在第一位。
总而言之，面对着国军兵败如山倒，邱清泉终于也不像以前那样狂妄自大了，也开始非常消极。而在半个多月之前，他刚从河南向徐州一带撤退的时候，一路追击正在有计划的转移的中野部队，他仍然气焰十分嚣张，丝毫没有颓废的气息，而这时候杜聿明作为整个战役国军的最高指挥官，已经对前途感到十分黯淡了，甚至是抱着赴死的心态去的淮海战役前线。邱清泉的心态的这种急剧变化，也说明了国军大势已去，谁都无力回天了。