南霁云，青少年时代勤劳能干，喜爱学习，平时收工后总要习文练武，传说他会七十二路枪法，善骑马射箭，能左右开弓，百步之内箭无虚发。因家境贫寒，不得不弃家外出谋生，后投奔张巡部下被委以重任。
安庆绪杀死安禄山后，派汴州刺史尹子奇统兵30万攻睢阳，睢阳太守许远向张巡求援。张巡、南南霁云引兵自宁陵向睢阳进发，攻破叛军防线与睢阳守军会合。后尹子奇披挂上阵，被南霁云一箭射中左眼，为守住睢阳，张巡遣南霁云先向屯兵彭城的御使大夫许叔冀求援，但许无动于衷，南霁云置骂而归。
南霁云向贺兰进明请求救援，贺兰嫉妒张巡、许远的名声威望和功劳业绩超过自己，不肯出兵援救，贺兰喜欢南霁云的英勇和豪壮，不听他求救的要求，硬要留他下来，陈设酒肉，具备歌舞，邀请南霁云入座。南霁云情绪激昂地说：“我南霁云来的时候，睢阳城内的人已经有一个多月没东西吃了，我即使想一个人吃，道义上不忍心这样做，即使吃也咽不下去。”于是，抽出随身佩带的刀砍断一个手指，鲜血淋漓，来给贺兰看，满座的人非常震惊，都感动奋激得为他掉泪。
南霁云明白贺兰终究不会有为自己出兵的意思，就飞马离去了，快要出城的时候，抽出一支箭射向佛寺的高塔，箭射中在塔上，有一半箭头穿进砖里，他说：“我这次回去，如果打败了叛贼，一定回来灭掉贺兰！这一箭就作为我报仇的记号。”
南霁云到了真源，李贲送马百匹，在宁陵宿营时，得到城使廉坦的三千军队，乘夜突围入城。叛军发觉，加以阻挡，南霁云边战边进，士兵大多战死，到达睢阳的才一千人。正遇大雾，张巡听到战斗的声音，说：“这是南霁云他们的声音。”便打开城门，南霁云赶着从叛军手里抢夺的几百头牛入城，将士们都执手哭泣。叛军知睢阳已无外援，围攻更急，众人议论向东转移，张巡、许远认为睢阳是江、淮屏障，如果放弃，叛军就会乘胜鼓噪南窜，江、淮必亡，而且带领饥饿士兵行军，必然到不了目的地。
叛军攻城，将士因伤病无法作战，张巡向西叩拜说：“孤城防卫之计已穷尽，不能保全了，臣活着不能报告陛下，死也一定变成鬼来杀贼。”睢阳城陷后，张巡与许远一起被俘，睢阳将士见到张巡后，起立哭泣，张巡说：“大家镇静，不要怕，死是命中注定的。”众人都因悲伤而无法仰面正视他，尹子琦对张巡说：“听说您督战时，大声呼喊，往往眼眶破裂血流满面，牙也咬碎，何至于这样呢？”张巡答道：“我要用正气消灭逆贼，只是力不从心而已。”尹子琦发怒，用刀撬开他的嘴，发现只剩三、四颗牙齿，张巡骂着说：“我为君父而死，你投靠叛贼，乃是猪狗，怎能长久！”
尹子琦佩服他的气节，想要释放他，有人说：“他是谨守节义的人，怎肯为我所用？而且他得军心，不可留。”尹子琦于是以刀胁迫张巡投降，张巡不屈服，尹子琦又逼南霁云投降，南霁云未应声，张巡呼叫：“南八，男儿一死而已，不能向不义的人投降！”南霁云笑着说：“我想有所作为啊，您是了解我的，怎么敢不死！”也不肯投降，南霁云于是与张巡、姚门言、雷万春等三十六人一同遇害。
梁羽生曾在《大唐游侠传》中评价南霁云：敢笑荆轲非好汉好呼南八是男儿。
本章结束