人类定居。大约公元前500年，凯尔特人的波伊部落居住在这一地区，他们将这个地区称为波希米亚。后来，日耳曼人赶走凯尔特人，移居到这一地区。到公元6世纪，日耳曼人部落多数移居到多瑙河流域，一支斯拉夫部落乘机从西面入侵，定居在波希米亚地区，他们就是捷克民族的祖先。
根据传说，布拉格的创建者是莉布丝公主和她的丈夫，农夫培密索尔，并以培密索尔的名字命名，建立了霍什米索王朝。传说公主在她位于中波希米亚的莉布新城堡中说了许多预言（得到7世纪以前考古学发现的证实）。其中一个预言说，她预见到了布拉格的荣耀。一天，她在异象中“看见一个伟大的城市，它的荣耀能达到天上的繁星！我看见它在在森林中伏尔塔瓦河畔陡峭的悬崖之上，那里有一个男人，他正在为房屋凿出门槛，在那里要建起一座名叫布拉格的城堡。王子和公爵们都要在门槛前弯腰，他们要向城堡和环绕它的城市低头。它将得到尊敬，得到人所共知的荣誉，整个世界都要赞美它。”
无论这个传说是真是假，布拉格确实是以9世纪在伏尔塔瓦河右岸居高临下建造的高堡为核心，而逐渐形成的。后来在河对岸建造了另一座城堡，就是今天的布拉格城堡。不久布拉格成为波希米亚的首都，并成为欧洲南北商路上一个重要的贸易中心，吸引了许多犹太人。973年，该市成为一个教区中心。
13世纪，在布拉格城堡周围的3个居民点获得了市镇的特权。1257年，在布拉格城堡以南新建了小城，这是德意志人居住的地区，拥有自治权。紧邻城堡西面和北面的布拉格城堡区在1320年获得自治权。伏尔塔瓦河对面的布拉格老城则早在1230年就已获得自治权。
14世纪，布拉格在神圣罗马帝国卢森堡王朝的查理四世统治下达到鼎盛时期。查理四世是捷克公主和卢森堡的约翰的长子，于1316年出生在布拉格，1346年当他父亲去世时成为波希米亚国王。由于他的争取，布拉格教区在1344年升格为总教区。1355年，查理在罗马加冕，成为神圣罗马帝国皇帝。布拉格成为神圣罗马帝国的京城。查理希望布拉格成为世界上最美丽的城市之一。他将布拉格建成帝国境内最为辉煌的城市，而位于该市最为显赫的建筑就是圣维特主教座堂，在中欧首先采用了宏伟的哥特式，室内装饰采用了独立的艺术风格，称为波希米亚学派。1348年4月7日，他建立了中欧、北欧和东欧的第一所大学，今天称为查理大学，是捷克最古老的大学，也曾是德国第一所大学。