酸雨的形成主要有自然和人為兩方面因素。在自然界中，海洋霧沫會夾帶一些硫酸到空中，土壤中的動物屍體或落葉在細菌作用下可分解某些硫化物，繼而轉化為二氧化硫。火山爆發也能噴出大量二氧化硫氣體，雷電和乾熱引起的森林火災也會排放出硫氧化物。
人為因素是酸雨形成的主要原因，主要是由於人類活動產生的二氧化硫和氮氧化物等污染物在大氣中經過化學反應後，與雨水結合而形成。這些污染物在燃燒化石燃料(如煤、石油和天然氣)以及某些工業生產過程中被大量排放到大氣中。具體來說，當這些氣體污染物與大氣中的水分子、氧氣和陽光發生化學反應時，會形成硫酸和硝酸等強酸性物質。當這些強酸性物質與雨水混合時，雨水的pH值會降低，從而形成酸雨。
此外，工業生產和民用生活中燃燒的煤炭排放出來的二氧化硫、燃燒石油以及汽車尾氣排放出的氮氧化物都會造成酸雨。