1935年2月，蒋介石调驻河南的高桂滋部八十四师及陕、甘、宁、晋四省军阀军队，约4万余人，对陕甘边和陕北根据地发动第二次“围剿”。此时，根据地武装虽得到迅速发展，但红二十六军和二十七军主力总共还只有4000人左右，游击队也只是3000多人。大敌当前，如何粉碎敌人的进攻？当时红军领导人中有两种不同意见：以刘志丹为代表的一种意见，主张向南发展，进攻延长、延川、保安、安塞，以与陕甘苏区打通；另一种意见主张攻打敌坚固据点绥德、米脂、佳县、吴堡，以与神府苏区打通。经商议，大家一致同意了刘志丹的意见。
刘志丹亲自为西北军委起草了粉碎敌人第二次“围剿”的动员令，分析了敌我形势，命令先打击深入陕北根据地但对陕北比较陌生、又与陕中军阀井岳秀互有戒备的高桂滋部，尔后向南、向西发展，使陕甘和陕北根据地联成一片。
为了保证第二次反“围剿”的胜利，动员令要求对红军、游击队、赤卫军、少先队进行严格的军事化管理，士兵服从命令，坚决听从指挥，反对散漫习气和无组织无纪律状态。动员令下达后，根据地党政军民立即投入战斗，红军所到之处，群众紧密配合，赤卫军站岗放哨、带路送信，妇女补衣做鞋、看护伤员，大家同心协力，众志成城。
《动员令》是刘志丹在马列主义指导下，结合多年来作战实践经验的结晶。他所提出的这套打法，不仅把军事上集中兵力与政治上利用矛盾巧妙地结合起来，而且把粉碎敌人“围剿”与巩固和发展根据地联结成一个整体，为战争和革命的胜利发展提供了依据。
刘志丹在第二次反“围剿”中连打了几个漂亮仗，取得很大胜利，从根本上说，这是由于主力红军和游击队紧密配合，并在人民群众大力支援下取得的结果，同时也集中体现了刘志丹的军事指挥才能。他在指挥作战中，善于审时度势，捕捉战机，常常出敌不意，攻敌不备，以劣势对优势而战胜敌人。即使是在接连取胜的形势下，他仍十分注意总结经验，一再告诫部队戒骄戒躁，因而能够统领全军，取得一个又一个的胜利。
第二次反“围剿”取胜，中央红军长征也快要到达陕北。蒋介石为阻止我两支红军队伍会师，于8月间，又发动了对西北工农红军的第三次“围剿”，妄图一举摧毁这块当时全国惟一幸存的红军根据地。他在西安设立了“西北剿匪总司令部”，并且亲自兼总司令，除调集陕、甘、宁、晋、绥五省军阀部队外，还调集了驻陕西的东北军主力和国民党中央军一部分，共10多万人，十倍于红军兵力。
刘志丹分析了敌强我弱的形势，制定了集中主力红军各个击破敌人的作战方针，趁敌尚未部署完毕之时，先发制人。8月中、下旬，在东线的绥德、吴堡一带，首先击溃了刚渡过黄河的阎锡山部两个旅，迫使阎军退回山西，接着又集中兵力进攻北线敌人。正在这时，徐海东、程子华等率领红二十五军，由鄂豫陕苏区西征北上经陕甘边到达陕北。刘志丹亲自起草了《欢迎红二十五军的指令》，并派陕甘边苏维埃政府主席习仲勋、陕甘边革命军事委员会主席刘景范前往保安瓦子川欢迎二十五军。9月中旬，红二十五军和红二十六、二十七军在延川永坪镇胜利会师。
会师后，中央驻北方代表派驻西北代表团在永坪镇召开了中共西北工委和中共鄂豫陕省委联席会议(简称永坪联席会议)，决定撤销西北工作委员会和鄂豫陕省委，成立陕甘晋省委，并改组原西北革命军事委员会。同时，为统一红军指挥，决定3个军合编为红十五军团，徐海东任军团长，程子华任政委。刘志丹虽被任命为副军团长兼参谋长，但在联席会议上被西北代表团书记朱治理无端指责为“右倾机会主义”，被排斥在省委和军委领导之外，但刘志丹并不在意个人的得失，也没有在大会上进行申辩，而是一心一意地为即将到来的战争作准备。
红十五军团成立后，徐海东、刘志丹即率部南下。10月2日，在延安以南的劳山地区全歼敌一一○师两个团和师直属队，毙敌师长何立中。劳山战役的胜利震慑了敌人，瓦窑堡守敌八十四师所部连夜弃城逃往绥德，我军乘胜追击，全部拔掉瓦窑堡周围原安定县的敌人据点。5日，根据地首府迁驻瓦窑堡。这时中央红军进至甘肃通渭、静宁地区，敌“西北剿总”一面急调大军阻击，一面电令董英斌、王以哲、孙楚等部，立即在陕北“聚歼”刘志丹、徐海东部，“不准与毛、周靠拢”，反“围剿”斗争进入关键阶段。
这时，一场肃反运动也在陕北红军中展开，刘志丹在瓦窑堡被捕入狱，连他妻子同桂荣和年仅5岁的女儿也被打入劳改队。
“左”倾错误的执行者竟然还胡说刘志丹明知要被捕“反而不跑，是狡猾地以此使党对他信任”，并把他关在潮湿的牢房里，昼夜刑讯，逼迫他交代所谓“反革命集团”。面对死亡威胁，刘志丹坚贞不屈。他对狱中战友们说：“我们死也不能说假话，黑云总遮不住太阳。”
陕北的“左”倾肃反，制造了大量冤案，搞得革命根据地人人自危。地主、富农、反革命分子乘机捣乱，许多地区出现了“反水”现象。同时，敌人加紧调集兵力，完成了对根据地新的“围剿”部署，妄图从南北两路夹击消灭红军。革命阵营内遭错误路线的破坏，革命阵营外临强大敌人的包围，本来形势大好的革命根据地，一下子陷入了岌岌可危的状态。
正当这个关键时刻，1935年10月19日，中央红军胜利结束长征，到达陕北吴起镇(今吴旗县城)，喜讯传来，军民无不振奋。原来，毛泽东等人突破腊子口，于9月18日抵达甘肃岷县以南的哈达铺后，始从敌人的报纸上得知陕北红军和根据地仍然存在，便提出到陕北去。到达陕北后，了解到根据地正在进行错误肃反，刘志丹等已被关押，毛泽东立即下令：“刀下留人”，“停止捕人”。并派王首道、何向三、贾拓夫等代表党中央，奔赴瓦窑堡接管“左”倾错误路线控制的保卫局。经过审查，11月初，刘志丹等受诬被捕人员被全部释放。
刘志丹出狱后，毛泽东和周恩来亲切地接见了他。刘志丹激动地对周恩来说：“周副主席，我是黄埔四期的，您的学生。”周恩来亲切地说：“我知道，我们是战友。”接着周恩来又带刘志丹去见毛泽东。毛泽东安慰和鼓励刘志丹说：“你和陕北的同志受委屈了。”刘志丹毫无怨言，只是高兴地说：“中央来了，今后事情都好办了。”在党中央召开的蒙冤同志座谈会上，刘志丹一再谦虚地表示：我们的工作也存在缺点和错误，请中央多多指导。表示要“团结起来，在党中央领导下努力工作，为完成我们的伟大事业而奋斗。”
当时，党中央被严峻的反“围剿”斗争困扰，“左”倾冒险主义错误来不及清算，没有深入调查研究陕甘边特委和红二十六军的政治路线问题，因而一些受过错误打击的人满腹怨言。刘志丹开导他们说：“党内的历史问题不必性急，要忠诚地为党工作，让党在实际行动中来鉴定每个党员。要相信党会分清是非，作出正确的结论。”他言到必行，时时处处敬重中央领导，继续忘我地工作。
天冷了，他看见毛泽东缺棉鞋穿，就让爱人赶做棉鞋，还特别交代：棉鞋“里子要棉，帮子要深，鼻梁要高，底子要厚”。教育干部战士要从整个中国革命的大局出发，绝对服从中央领导的指示与调遣。在他的带动下，陕北红军和中央红军团结合作亲密无间。周恩来称赞他说：“刘志丹同志对党忠贞不二，很谦虚，最守纪律，他是一个真正具有共产主义品质的党员。”
1936年初，刘志丹奉命率红二十八军，从神府渡河东征抗日。途中恰好遇到习仲勋，他还特意跳下马来叮嘱习仲勋回去以后好好开导曾受错误打击的同志，让他们能够全身心地投入到革命斗争中，为党工作，不要太计较个人的得失。
刘志丹率领部队挺进黄河，沿途受到根据地群众热烈欢迎，大家听说刘志丹带着红军回来了，方圆数十里的热心群众也跑来看望，挤满了红军的宿营地。一位双目失明的大娘颠颠跛跛地赶来探望，众人笑着说：“大娘，你怎能看见老刘啊！”她说：“看不见，我还摸不着吗？”刘志丹立即站在老人家面前，拉着她的手，亲切地说：“大娘，我就是刘志丹。”老人家把刘志丹从头摸到脚，又从脚摸到头，激动地流着热泪说：“好哇！……好哇，你真是咱们老百姓的好人啊！”在场的群众都感动得热泪盈眶。
3月，红二十八军在贺家川一带准备渡河。刘志丹在广大群众的帮助下，最后确定在通往山西兴县的沙峁头渡河。3月底，刘志丹指挥部队胜利渡过了黄河。过河部队摧毁罗峪口敌军指挥部，随即横扫兴县黑峪口、康宁镇，沿途连获胜利。当部队进至山西临县白文镇时，接中央军委急电：“为了配合红军进逼汾阳，威胁太原，并打通前方与陕北之联系，保证红军背靠老苏区，命二十八军即向离石以南黄河沿岸地区进击，并相机攻占中阳三交镇，牵制和调动敌人。”
刘志丹立即率领部队自白文镇出发，一番激烈战斗终于按时抵达三交镇附近。4月13日，彭德怀司令员、毛泽东政委下达了消灭三交镇敌军的命令。三交镇是山西省中阳县一个重要渡口，河西就是陕北根据地绥德。该镇周围都布置了坚固的工事，并由一个团敌人防守。刘志丹为全歼敌人，亲自观察地形，仔细研究敌情，严密部署战斗。
4月14日拂晓，围攻三交镇的战斗打响了。上午，刘志丹得知一团的攻击遭到挫折，便同政委宋任穷商议，让宋留在军指挥所控制大局，他亲自来到一团指挥所，和指战员一起研究摧毁敌军碉堡的方案，指出：“这次战斗与河东整个红军的安危有关，要号召每个共产党员拿出最顽强的毅力，狠狠打击敌人，争取战斗的胜利。”
当日下午，正当刘志丹在前沿阵地视察敌情，指挥战士向敌人发起冲锋时，不幸左胸中弹，当场昏迷。过了一会儿，刘志丹清醒过来，他断断续续地告诉身边同志：“让宋政委……指挥部队……赶快……消灭……敌人。”说完便停止了呼吸。
刘志丹牺牲时年仅33岁。人民无比敬爱的陕北根据地和红军的创始人刘志丹，为中国人民的解放事业流尽了最后一滴血。
为了永记刘志丹的英名功绩，党中央决定把刘志丹的故乡保安县改名为志丹县，并于1941年3月修建了志丹陵，藉此纪念这位“忠实英勇的红军领袖、陕甘宁边区的创造者”。
