会馆是同乡人在异地建立的一种社会组织。有人说：中国最早的会馆可上溯到明朝永乐年间。最初的会馆，主要为客籍异地乡人的聚会场所。山西人在异地建立会馆，最早的始于明朝隆万时代。据《藤荫杂记》卷六《东城》载：“尚书贾公，治第崇文门外东偏，作客舍以馆曲沃之人，回乔山书院，又割宅南为三晋会馆，且先于都第有燕劳之馆，慈仁寺有饯别之亭。此贾公为贾仁元，字西池，山西万泉人，嘉靖四十一年（1562）进士，曾任兵部左侍郎，协理京营戍政，克经筵官。贾氏任京官时宅第在崇文门外，曾辟宅南为三晋会馆。当时的会馆规模较小其功能主要是在京的晋籍士人聚会场所。明代实施开中法以来，晋商以“极临边境”地理优势，捷足先登，渐成为明代最有势力的商人群体。京师是全国政治、经济、文化中心，晋商为活动方便而设会馆于京师。《晋冀会馆碑记》记述了原初设会馆之起因：“历来服官者、贸易者、往来奔走者不知凡几，而会馆之设，顾独缺焉。……虽向来积有公会，而祀神究无专祠，且朔望吉旦群聚类处，不可无以联其情而冷其意也。议于布巷之东蒋家胡同，购得房院一所，悉毁而更新之，以为邑人会馆”（李华《明清以来北京工商会馆碑刻选编》）。晋商会馆创始最早年代，约明中后期。山西平遥颜料商建立的颜料会馆，清乾隆六年《建修戏台罩棚碑记》称“我行先辈，立业都门，崇祀梅、葛二仙翁，香火攸长，自明代以至国朝百有余年矣”。按清乾隆六年（1741）上溯百有余年，当为明代万历后期天启初年。又《临襄馆山右馆财神庵三公地重修建筑落成记碑》载：“吾乡自前明，即有山右会馆。清乾隆三十二年（1767）《重修临汾东馆记》载：“临汾为山右平阳首邑，其立馆于京师也，自前明始”（以上均见李华《明清以来北京工商碑刻选编》）。可见，晋商至迟在明代中后期已在北京设立会馆了。
　　入清以后，晋商设立的会馆有了蓬勃发展，大体上前后在京师设会馆有40处以上，与此同时，在国内名商埠集镇也先后设立了晋商会馆。这些会馆的设立，首先与当地商业、经济的发展与交通有着很大关系。以河南南阳赊旗镇山陕会馆为例来说，这里在明代尚是裕州（今方城县）兴隆店，也就是一个过路小店。在明代的河南地图上还无“赊旗店”。在清代的河南图幅上，才标出赊旗店。也就是从清代，赊旗镇才有所发展。原来赊旗店地处汉水交流的唐河上游，潘、赵二水环绕如带，由镇东北与西南流过，后二水合流，向南入唐河，唐河继续南流入湖北襄阳（今襄樊），最终汇入汉水，直通汉口；而北经万城、平顶山，可直达洛阳、开封，于是清代的赊旗店逐渐成为一个四通八达的水陆要冲，为两湖、江西、福建、安徽、河南、河北、山西、陕西九省通衢，也是北京通往云贵驿道的中间站，于是山陕等省商人纷纷到此建房设店，流寓定居，使赊旗舟楫车马，热闹非凡。粮食、棉花、食盐、布匹、煤炭、竹木、茶叶、桐油、生漆、药材、曲酒等各种物资汇集此镇贸易、储存、转运，形成一个物资贸易中心。当时仅从事南北货物过往成交的过载行就有48家，故有“拉不完的赊旗店，填不满的北舞渡（位于赊旗镇东北的一个水运码头）”之说，赊旗店迅速发展为“北走汴路，南船北马，总集百货”的繁华巨镇。而在赊旗店最活跃、最有势力的商人就是山西商人。他们最早来到赊旗店从事茶叶、绸缎、刺绣、木材、食盐、布匹等商品的南北转运，其中茶叶为晋商经营的最大宗商品。请人衷干《茶市杂咏》载：“清初茶叶均系西客经营，由江西转河南运销关外”。此处“由江西转河南运销关外”、就是指由江西河口（今铅山县）运至河南赊旗店，再由此北运关外。山西茶商采买福建武夷山或湖南、湖北等地茶叶后，由水陆两路运抵汉口，由汉水至襄阳，转唐河北上达赊旗店，再改陆路，由马匹驮运北上过平顶山、洛阳，渡黄河，入山西，经晋城、长治、祁县，到太原、大同，再经张家口或归化（呼和浩特），用骆驼，穿越戈壁沙漠，运至库伦（乌兰巴托）、恰克图与俄蒙商进行贸易。赊旗店正是这条“茶叶商路”上的一个重要中转站。于是，山西商人为了适应贸易的需要，首先在赊旗店创建了晋商会馆。由上可见，晋商会馆在各城镇商埠的建立，是经商活动的需要。 随着经商活动的扩展，会馆的建立又有所发展。据不完全统计，晋商除在京师设立了许多会馆外，又先后在天津、山东聊城、馆陶恩县、东阿、济南、上海、江苏扬州、江苏南京、江苏苏州、江苏盛泽大馆圩、江苏盛泽西杨圩、江苏镇江、湖北汉口、湖北锺祥、湖北当阳、湖北郧西、湖北随州、湖北江陵、湖北公安、湖北沙市、浙江杭州、河南浙川、河南舜阳、河南洛阳、河南开封、河南赊旗、广东佛山、广东广州、湖南长沙、湖南湘潭、广西南宁、青海西宁、新疆巴里坤、安徽芜湖、安徽涡阳、吉林、沈阳、重庆、四川成都、四川灌县、福建福州、内蒙多伦诺尔等地设有会馆，清代晋商会馆几乎遍布全国各行省、商埠。