中共策划国民党海军第二舰队起义地位于栖霞区燕子矶街道笆斗山附近的长江水面。1948 年2 月,林遵被任命为国民党海军第二舰队司令,负责从江阴到安庆的江防,配合国民党陆军抵抗人民解放军南下。林遵对国民党的统治深恶痛绝,他与上海地下党员、海军总司令部新闻处上校专员、《海军月刊》社社长郭寿生联系。郭寿生动员他率部起义,他欣然接受,开始积极筹备。1949 年2 月25 日,国民党海军“重庆”号巡洋舰在上海吴淞口宣布起义,林遵受到鼓舞,积极与郭寿生联系商量起义的具体事项。中共中央社会部及时改派上海地下党林亨元与林遵联系,传达中共中央的指示,要求他先按兵不动,待解放大军渡江时,再突然调转炮口起义。1949 年4 月20 日,国民党政府拒绝在《和平协定》上签字,接着,桂永清命令林遵的第二舰队全部集中南京江面,阻击人民解放军渡江。
4 月23 日晨,林遵通知各舰舰长和炮艇艇长召开紧急会议,商量起义事宜。会上很快以无记名投票的方式通过了起义决定。林遵宣布:“第二舰队决定全体起义!” 参加起义的有永绥、楚同、惠安、江犀、吉安、美盛、联光、安东、太原等军舰,以及第五巡防艇队和第一机动艇队所属的炮艇,共26艘。国民党获悉林遵部起义后,马上派了6架飞机,对起义舰艇狂轰滥炸。林遵指挥各舰反击。当晚,人民解放军通知各舰舍舰保人,让起义官兵全部离舰上岸,安全转移。就在这一天,人民解放军横渡长江一举攻占南京,国民党政府集体逃遁广州。同一天,华东军区海军在江苏泰州白马庙宣告成立,人民海军从此诞生。4月30日,由林遵领衔,带领参加起义的舰、艇长邵仑、李宝英、吴建安、张家宝、宋继宏、易元方、郭秉衡、韩运枫、陈务笃、林微琛、张汝槱等人向毛泽东主席、朱德总司令发出致敬电。喜讯传来,毛泽东主席、朱德总司令亲自发电报祝贺林遵和第二舰队官兵,复电指出:“中国爱国人民建设自己的海军和海防的伟大意志,不是任何反动残余所能阻止的”,鼓励他们“团结一致,学习人民解放军的建军思想和工作制度,并继续学习海军技术,为中国人民海军的光明前途而奋斗”,盛赞起义是“南京江面上的壮举”。
