两河流域文明的先驱和创造者是苏美尔人，早在公元前4000年前后，可能是来自伊朗高原上的苏美尔人就已经在两河流域建立了规模较大的村镇和城市，有了先进的灌溉农业，有了神庙。大约在公元前3500年前后，苏美尔人已经以神庙为中心建立了一些城邦国家。公元前3000前后，苏美尔经济繁荣的同时，城邦战事不断。最后，公元前2371年，来自北方的阿卡德人统一了苏美尔城邦。

苏美尔人创造了辉煌的文明，如楔形文字、现今世界历史上第一部成文法典《乌尔纳姆法典》，但这部法典现在只有一些片断，苏美尔人的数学成就也很突出但从此中断了。阿卡德人建立的王朝只存在了一百多年也灭亡了。后来，文明相对落后的民族相继侵入两河流域，成为当地的统治者。公元前1894年，闪族的一支阿摩利人以幼发拉底河畔的巴比伦城为首都建立了阿摩利王国。这个王国空前强盛，以致人们把美索不达米亚称为巴比伦尼亚，两河流域的历史从此进入“古巴比伦王国时代”（公元前1894年到公元前1595年），当地人居民，无论是苏美尔人、阿卡德人还是阿摩利人从此都称为“巴比伦人”。

古巴比伦王国最伟大的国王是汉谟拉比，在他统治的四十多年间，古巴比伦王国进入兴旺发达时期，在此期间，古巴比伦的疆域和经济文化都达到顶峰状态。其中，最伟大的贡献是《汉谟拉比法典》。而巴比伦也以它的繁华壮观闻名西方世界千百年，成为西方历史上城市繁华的参照系。公元前1595年，古巴比伦王朝即巴比伦第一王朝灭亡，巴比伦第二王朝即“海国王朝”建立（公元前1595-公元前1518年）。后来，巴比伦第三王朝即卡西特王朝（公元前1518-公元前1204年）和第四王朝（公元前1168至公元前689年）相继建立。在这近千年的漫长岁月里，两河流域始终处于分离状态，战争不断。在此时期，两河历史上一度有过其他政权。

公元前14世纪中叶以后，亚述人在两河流域的势力增长，一度统治了两河流域。公元前626年，迦勒底人夺取了亚述人统治下的巴比伦城，建立了迦勒底王国，这个王国又称新巴比伦王国（公元前626至公元前538年），公元前612年，新巴比伦军队同伊朗高原上新兴的强国米底军队联合打败了强大的亚述军队，亚述从此灰飞烟灭。尼布甲尼撒二世是一位有作为的新巴比伦国王（公元前605至公元前562年在位），他娶米底公主为妻，加强与米底的联盟，灭了犹太王国，使新巴比伦王国的国力达到极盛。为了取悦来自米底的皇后，尼布甲尼撒二世在巴比伦的皇宫中造了一座高达25米的空中花园，它以假山假石筑成，置身其中，绿荫浮空，恍若人间仙境，在上面可以俯瞰巴比伦全城。而他的皇宫更是古代最豪华的宫殿之一。公元前539年，波斯人侵入巴比伦尼亚。第二年，新巴比伦被波斯人灭亡。此后，两河流域成为波斯帝国的一部分。