活性炭是由石墨微晶、單一平面網狀碳和無定形碳三部分組成，其中石墨微晶是構成活性炭的主體部分。活性炭的微晶結構不同于石墨的微晶結構，其微晶結構的層間距在0.34～0.35nm之間，間隙大。即使溫度高達2000 ℃以上也難以轉化為石墨，這種微晶結構稱為非石墨微晶，絕大部分活性炭屬于非石墨結構。石墨型結構的微晶排列較有規則，可經處理后轉化為石墨。非石墨狀微晶結構使活性炭具有發達的孔隙結構，其孔隙結構可由孔徑分布表征。活性炭的孔徑分布范圍很寬，從小于1nm到數千nm。
活性炭中的微孔比表面積占活性炭比表面積的95%以上，在很大程度上決定了活性炭的吸附容量。中孔比表面積占活性炭比表面積的5%左右，是不能進入微孔的較大分子的吸附位，在較高的相對壓力下產生毛細管凝聚。大孔比表面積一般不超過0.5m2/g，僅僅是吸附質分子到達微孔和中孔的通道，對吸附過程影響不大。