黑水国遗址及汉墓群位于张掖西北12.5公里处。南北长15公里,东西长10公里,是新石器时期的古文化遗址,为省级文物保护单位。遗址内有汉代墓葬群,约4平方公里。多数墓葬已被沙埋没,凡未被沙漠埋没者,大部分已在解放前被盗掘。1956年国家地质勘查队进行勘查后,认定遗址底下有古城一座。相传西汉以前匈奴移居这里,划疆为小月氏国国都。因当地人称匈奴为“黑匈”,故称为“黑水国”。按《天下郡国利病书》引《杜氏通典》说,其地系汉时张掖古城。《甘州府志》称:其地在唐为巩笔绎,元为西城驿,明则称小沙河驿,当地人呼之为“老甘州”或“黑水国”。《扰新记程》载:“隋朝韩世龙守黑水国驻此,有古垒四,去后一夕为风沙所掩”。
汉墓群南北两侧,有古城堡故址两座,两座城堡造型一致,平面为方形。南城堡东西长248米,南北宽222米,东面正中开门,并加筑瓮城。门宽7米,墙厚4.6米,夯土厚层0.15米。城堡内建筑物已荡然无存,地表面有大量砖块瓷片,还发现石磨等物。北城堡与南城堡相距约1公里。东西长245米,南北宽220米,门开在南面,宽约4米。城垣西南角筑有土台,正方形,每边长7.5米。北城堡已被流沙埋没。
黑水国遗址遭到了风沙的侵袭,同时也遭到了人为的破坏。解放前,驻军师长韩起功派兵挖掘,大肆掠夺,珍贵文物所剩无几,就是人为破坏的最突出的一例。