山石在自然界中分布广泛，适宜制作盆景的山石材料也极其丰富。我国第一部论石专著，成书于宋代的《云林石谱》中详细记载的观赏石品就多达116种，其中大部分观赏石都可被用来制作山石盆景。制作山石盆景的石料根据质地可以分为软石类与硬石类两种。

软石类石材的特点是质地松软，易于造型，外形可人工雕琢，是开始学习山石盆景比较理想的制作材料。我国多地都有出产软石类石材，来源广泛，价格适中。软石石材吸水性能好，可以精雕细刻，创作出精品之作，擅长表现硬石无法表达的形态、皴纹技法。软石的缺点在于缺乏自然神貌，搬运中易损坏。

硬石的特点为质地坚硬、纹理清晰、神韵含蓄、形态生动。通过人工的选择、截取、胶合、拼配等手段制作而成的山石盆景，能够保持石材的自然神貌。硬石种类繁多，表面纹理难以人工雕琢加工，但石材选择众多，通过选择天然生成、形纹俱佳的硬石，创作成为盆景，极易出现上品佳作。硬石类石材也是现在制作山石盆景的主流。