物质是由原子组成的，原子在时刻不停地运动着，运动的速度会随温度改变，这是物体热胀冷缩的根本原因。对于固体来说，它的基本单元是由质点（原子或离子）构成的点阵，这些质点在晶格点阵中围绕其平衡位置振动。这种振动不是左右对称的简谐振动，而是非简谐振动。
当固体受热时，质点振动加剧，由于非简谐效应的存在，质点的平衡位置就会发生移动，导致相邻质点间的平均距离增大，于是，固体的体积就变大了。反过来，当温度降低时，由于质点振动减弱，质点之间的平均距离减小，固体的体积就变小了。
我们经常能看到固体的冷缩现象。比方说，金属铁有热胀冷缩的特性，因此我们在铺设铁轨时，必须保留一定的间隙，以防止气温升高时，铁轨因受热膨胀伸长而相互推挤变形。同样，公路上铺设的水泥也会热胀冷缩，所以我们会发现，公路上每隔一段距离就会留着一个间隙。
液体同样存在热胀冷缩，比方说，我们常用的温度计，就利用了液态的水银（或酒精）的热胀冷缩特性。气体的热胀冷缩现象也随处可见。乒乓球如果不小心被踩瘪了，只要放在开水里一烫，瘪的地方就鼓起来了，说明乒乓球里的空气受热以后体积变大了。
不过，气体的热胀冷缩需要在一个体积可以变化的空间里才能观察到（如气球里的气体），因为如果把气体释放在一个固定的空间里，它就会充满整个空间，这时如果我们升高温度，这个空间的大小并不会变化，但气体的压强会增大。