由于在有限的空间内，堆土为山难以塑造高耸、雄奇、变化多端的假山造型，所以造园者逐渐偏重于叠石为山，加上唐宋以后赏石、拜石、宴石的癖好成风，于是人们到处采访佳石，以供赏玩及叠山之用。由于爱好不同，要求各异，山石的品类也越来越多，但并不是所有的山石都可以用来堆叠假山的，因此凡是从事假山之业者，必先深谙石性。一般传统所选的假山石料多以层积岩为主，纵观江南地区的园林假山，尤以太湖石假山和黄石假山为多。

太湖石俗称湖石，是产于太湖周边一带的石灰岩，在历史上尤以产于苏州太湖洞庭西山一带的太湖石最为有名，其它如江苏宜兴、浙江长兴、安徽巢湖等地亦产类似太湖石的石种。太湖石性坚而润，嵌空穿眼，有宛转险怪之势。色泽有青、白、灰、黑等。其质纹理纵横，笼络起隐，遍多凹窝，由风浪冲激而成的，谓之“弹子窝”。还有一种就是“种石”，即对缺乏天然孔穴的，就采取人工凿孔加眼，再沉于水中，放置到波浪冲激处冲刷，以售善价，但因时间较长，所以有“阿爹种石孙子收”的说法。现在则多用电动工具进行加工、抛光。太湖石又有水、旱两种，尤以水中者为贵，但因采石不便，现多用山中的旱石，虽然旱石大多枯而不润，有的还常带有土色，但堆叠好的假山只要借以数年的雨水冲刷，自然会显露出多孔玲珑或嶙峋俏丽的形态。

太湖石的玲珑秀润，历来受到园主人和造园叠山家的青睐，但由于过度开采，至明末就已经很少了，因此吴地开始有人尝试随地取材，采用黄石叠山。尧峰石即产于苏州近郊尧峰山的黄石，明末尧峰石的使用，是造园叠山史上的大事，从此黄石假山成了与太湖石假山比肩并列的假山流派。黄石假山在造型上，仿效自然界山体的丹霞地貌，或沉积岩山体中的自然露头的风化景观，从而创造出了一代新风格假山形象。黄石是属于沉积岩中的砂岩，棱角分明，轮廓呈折线，呈现出苍劲古拙、质朴雄浑的外貌特征，显示出一种阳刚之美，与太湖石的阴柔之美，正好表现出截然不同的两种风格，所以受到了造园叠山家的重视，为了表现这两种山体的不同趣味，古代造园叠山家们常将这两种山石用于同园中的不同区域，以示对比，如扬州个园四季假山中的夏山（湖石山）与秋山（黄石山），苏州耦园中的东花园假山（黄石山）与西花园假山（湖石山）等。