1958年夏季，中共中央在北戴河召开的政治局扩大会议上，研究了有关10年大庆的事宜，考虑到届时将邀请外国政要来华，周总理提出兴建一座有中国特色的高级国宾馆动议。
外交部接到有关通知后，马上成立了专门的小组，在北京城勘踏择址。几经挑选，最后选定了古迹遗存、绿荫覆盖的钓鱼台。
钓鱼台国宾馆的主设计师，是中国著名的建筑师张开济。
赫鲁晓夫住规格最高的18号楼
同其他国庆10周年的建筑工程一样，钓鱼台国宾馆的十几栋楼房，也在不到一年的时间内竣工。接待宾客的楼房从钓鱼台东门北边，按逆时针方向依次编号，为了尊重外国人的习俗，没有1号楼、13号楼的编号。
钓鱼台国宾馆是按江南名园风格营造。在院子的最西南端，还保留一组古建筑“养源斋”。
“十一”前夕，应邀参加新中国成立10周年大庆的各国政要们，陆续住进了钓鱼台国宾馆。12个社会主义国家的代表团，一个代表团入住一栋楼。
率领前苏联代表团的是苏联共产党中央委员会第一书记、苏维埃社会主义联盟部长会议主席赫鲁晓夫。在18号楼的大门前，栽下了象征和平友好的纪念树，那是一棵白皮松树。后来中苏关系恶化，只是摘掉了写有赫鲁晓夫栽的牌子，而白皮松树却一直保留着。
率领朝鲜代表团来华的是朝鲜劳动党中央委员会委员长、朝鲜民主主义人民共和国内阁首相金日成。他们住进了钓鱼台国宾馆的12号楼，金日成首相和中方的接待人员，在楼前栽种了象征中朝永远友好的常青松树。
越南劳动党中央委员会主席、越南人民共和国主席胡志明住进了钓鱼台国宾馆的11号楼，在12号楼的西北侧。
齐奥塞斯库率领的罗马尼亚代表团住在8号楼。其他阿尔巴尼亚、保加利亚等东欧国家的代表团也都在各自住的楼前栽树纪念。
住在新建的钓鱼台国宾馆内的贵宾，对环境和设施、中国方面的接待，都感到非常满意。只有赫鲁晓夫提了一点意见，他在和北京市委第一书记彭真交谈时说：“钓鱼台国宾馆里的浴缸太小了。”这个意见被反映到设计人员那里时，设计人员感到诧异：“浴缸都是大号的，其他高大的外宾都没有感觉小，怎么身高只有1.68米的赫鲁晓夫会觉得小呢？”
10年大庆庆典过后，钓鱼台国宾馆里顿时清静了下来，管理人员对国宾馆的各楼进行了规划安排。从此，18号楼成为最高规格的元首级接待楼，外国的国王、总统、首相来访，就在此楼下榻。元首以下的贵宾，一般安排在5号楼、6号楼、7号楼，这几栋楼的规格大致相同。
自上世纪六十年代始，毛主席、刘少奇同志、周恩来总理、彭真同志等中共中央的领袖，有时也到钓鱼台国宾馆来召集会议或临时小住。他们留住的安排也没什么规定，一般是第一次安排在哪幢楼了，以后再来仍安排在哪幢楼，渐成习惯。
毛主席每次来钓鱼台国宾馆开会或小住，都是在12号楼。但是他在12号楼留宿时，从来都不住二层的最高级的贵宾大卧室，而总是住在一层的贵宾随员住的套间。这种套间只有一个很小的厅，一个浴室，一个卧室。
这种套间的卧室面积不大，可毛主席用的床却很大，按他的习惯，床的一半用来睡觉，另一半放置要看的书籍。卧室里放上这么一张大床，人活动的余地就非常有限了，但毛主席在里面好像乐得其所。
周总理习惯住5号楼，他对5号楼有特殊的好感，安排的活动一般都在5号楼进行，除了江青于1966年初搬进钓鱼台在5号楼住的那段时间以外。周总理不仅在此休息、小住、办公，还在此接见外宾，处理许多涉外事宜。
有许多次当一些特殊外宾来华时，周总理也总是把他们安排在5号楼。例如1970年、1971年身为美国总统特使的基辛格来华，周总理都亲自安置他住在5号楼，和他几次长时间的会谈，也是在那里进行。
刘少奇同志到钓鱼台国宾馆小住，一般住在11号楼。彭真同志来此则住14号楼，而且他还在此住了相当一段时间。其他中央首长也来过，例如国务院副总理、外交部部长陈毅的房子翻修时，就和夫人张茜在钓鱼台国宾馆内住了一段时间。
朱德虽然没在钓鱼台住宿，但他在这里的花房养了许多名贵的兰花，所以他不时到这里的花房，观看和侍弄他自己养的花。这些名贵的兰花，在“文化大革命”中都被毁掉了。（据《红色警卫》邬吉成、王凡）
