淮陰縣作為顯性地名,自秦設置以來到元初基本上都是存在的,西漢從縣境東南分出射陽縣,再發(fā)展為后來的山陽縣。在唐宋時期,淮陰山陽同處淮水之南,兩縣縣境大約以古運河為界,運東為山陽,運西為淮陰。南宋末,淮陰縣治遷八里莊,復還遷碼頭。宋末元初,又在八里莊附近置新城縣,并于淮河北岸設立清河縣。元至元二十年(1283),淮陰縣被撤廢,并其地連同淮安、新城二縣入山陽縣。至此,古淮陰縣之地就全在山陽縣境內(nèi),作為顯性地名的淮陰在元初消失。
然作為隱性地名的淮陰在明清一直存在和使用,雖然位于淮北的清河縣向南擴張先后占有了古淮陰縣的老子山、碼頭、清江浦等地,但無法改變清河縣十之九境在淮北的事實。且明清時的“淮陰”也并不指“清江浦”(清江浦本為山陽縣地,后作為清河縣城),而是指山陽縣西鄉(xiāng),大約包含今洪澤縣主體,清浦區(qū)大部,淮安區(qū)運河以西的地方。故明清時期,淮陰作為隱性地名是以山陽別稱的形式存在和使用。明清時淮安府城的驛站叫淮陰驛,淮安城內(nèi)有淮陰書院(至今淮城府市口仍有淮陰市碑),很多山陽籍名人因慕古風也喜用舊稱“淮陰”來指代自己的故里,如吳承恩、吳鞠通、周恩來等,這一習慣性的別稱直到民國才發(fā)生變化。
1911年,駐清江浦新軍十三協(xié)兵變,淮安府光復,成立江北軍政府。1912年,民國政府廢府設道,駐淮城的淮安府被裁撤,設淮揚道駐清江,清江城遂正式取代淮安城成為淮安地區(qū)的政治中心。1914年1月,民國政府內(nèi)務部改訂各重名縣。因和陜西山陽縣重名,山陽縣改名淮安縣;因和河北清河縣重名,清河縣改名淮陰縣(當時淮安轄縣中同時被改名的還有漣水[安東]、泗陽[桃源])。就這樣,淮安由府名變?yōu)榭h名,而淮陰則由山陽縣的別稱變成地區(qū)(府)名,淮陰淮安的政治角色發(fā)生了戲劇性的轉(zhuǎn)換。
清河縣更名淮陰縣后,淮陰縣城在清江,故清江城現(xiàn)代以后又被人稱做淮陰城。民國的大部分時期里,淮陰和淮安兩縣大致以清江浦和碼頭西南的洪澤湖大堤為界。此時的淮陰縣,除西南境老子山和縣城清江完全為古淮陰縣地外,余均為唐宋淮北清河縣之地,“淮陰縣”之名并不副實。
民國初的淮揚道轄有今宿遷沭陽灌南一線以南、如皋泰興一線以北的廣大蘇北地域。到1927年撤道,清江又是國民黨江蘇省第七區(qū)行政督署專員公署所在,第七區(qū)轄有宿遷、泗陽、漣水、淮陰、淮安和寶應六縣。此時,中國共產(chǎn)黨淮鹽特委機關(guān)亦設在清江。1937年底,日軍攻陷滬、寧后,國民黨江蘇省政府曾遷移至此。1939年淪陷。1945年抗日戰(zhàn)爭勝利,9月,新四軍第一次解放淮陰城,成立清江市,為蘇皖邊區(qū)政府駐地,其時的蘇皖邊區(qū)轄轄有蘇皖豫三省解放區(qū)的73個縣市,范圍頗大,而清江市則為蘇皖邊區(qū)政府直轄市。