中国古代的衙署是统治者办公的专用建筑。中世纪后期工商业行会兴起，欧洲出现了专供行会办公、集会使用的楼房建筑，如布鲁塞尔1691～1699年在格兰德广场建成的一些行会办公楼，一般为三层至四层的砖石或木结构。现代办公楼多为政府机构、社会团体、工商企业、银行等所使用。由于社会需要量增加，城市用地短缺，建筑等工业技术的发展，因此，办公楼的规模和层数逐渐增加。20世纪初，美国首先出现了摩天楼式的高层办公建筑，如1913年在纽约建成的伍尔沃思大楼，共52层,总高241米多。这种商业性的高层办公楼，已由过去的独家使用,发展为分别出租,供多家使用。1976年建成的纽约世界贸易中心是世界上最大的办公楼，建筑面积120万平方米，其中办公面积84万平方米,分租给世界 800多家厂商使用。1974年建成的芝加哥西尔斯大厦，110层，高443米，为当今世界最高的办公楼。中国从70年代末开始，一些大城市和经济特区纷纷建造新型的高层办公楼，如1986年建成的深圳国际贸易中心大厦，共50层,高160米，是一座分租给许多家厂商办公用的大楼。
