大革命时期，他是家乡“首任”儿童团长。参加了游击队，是游击队员中年龄最小的。改编为红军后，他第一个被提拔当了班长，又第一批加入了共产党。他曾经说过，在他的军事生涯中，一个很大的遗憾是没有担任过“排长”。因为作战勇敢、且打仗聪明，领导很早就发现并着意培养这棵“苗子”，从班长直接提拔为连指导员，接着又升为营政委、团政委。有人认为陈锡联进步太快，找领导提意见。领导说：昨天晚上，陈锡联带着三个通讯队去攻打敌人一个前哨连。这个前哨连驻守在山上，下面是班、排，最上面才是连部。按常规的打法，应当是从下往上攻，这样打下来算胜利，打不下来就撤回来。但陈锡联不这样干。他带着人深更半夜悄悄地攀上山顶，先干掉敌人的连部，然后从山上往下打，也就是从敌人的屁股后面打，很快就消灭了无头的敌人的班、排。战斗结束天还没亮。陈锡联所部没有伤亡一人，却活捉了一百多个敌人。这样漂亮的打法，你能想得出来？“小钢炮”（陈锡联的绰号）就是有一套，这样的干部就是要培养提拔。后来不久，陈锡联担任了师政委、师长，成为红四方面军最年轻的师级指挥员。

　　抗日战争爆发，红军改编为八路军，陈锡联任129师769团团长，他率部打响了129师抗战第一枪，首战即奇袭阳明堡日军飞机场，一举击毁日军飞机24架，开创了我军步兵打飞机的先例。一位英国记者称这是“神奇的战斗”。这一战例已作为我军以弱胜强、出奇制胜的优秀范例载入军史，至今仍为人们所研究、学习。

　　解放之初，陈锡联作为第三兵团司令员出任新中国第一任重庆市长，尽管只干了十个月，但他在向政务院汇报工作时，令听取汇报的民主人士惊叹不已，史良说：真没想到你这个领兵打仗的，管城市管得也这样好。他是我军第一任炮兵司令员；1955年授衔时，年仅40岁的陈锡联被授予上将军衔，是最年轻的上将之一……这一系列“第一”、“之最”，构成了陈锡联的传奇人生。

　　1939年11月，新华日报（华北版）特派记者采访时任385旅旅长的陈锡联，面对这位仍有些稚气但已是赫赫有名的八路军抗战名将，记者由衷地感叹：“钢铁往往代表着健壮而坚定。二十五岁的陈锡联将军不只有着一付膂力过人的体格，而且有着一颗惊人的坚定果决的心。在战场上，一任战争的波涛掀天覆地地滚来，他岩石般的雄姿，屹然不动……一个钢铁的人！”

　　时势造英雄。陈锡联上将从一个大字不识的放牛娃，成长为无产阶级革命家、军事家，共和国的一代名将，他的辉煌业绩，正是伟大的波澜壮阔的中国革命斗争所造就的。