自編碼器的編碼器(encoder)部分負責將輸入數據壓縮成潛在空間表徵，而解碼器(decoder)部分則重構這些潛在空間表徵以還原輸入數據。
在神經網路中，自編碼器通常只有一層隱含層，其結構包括輸入層、隱含層和輸出層。輸入層接收原始數據，隱含層將這些數據壓縮成潛在表示，而輸出層則試圖重建這些壓縮表示，使其與輸入數據儘可能接近。這種壓縮和解壓縮的過程有助於學習數據的有用特徵，特別是在壓縮過程中保持信息的重要性。
編碼器可以是不同的神經網路結構，例如卷積、池化或全連線層。這些層的作用是減少輸入數據的維度，以便進行後續的處理。例如，在圖像處理中，一個500×500的圖片可以通過編碼器壓縮成1×50的序列。解碼器則相反，它增加維度，重建輸入數據，使其與壓縮前的原始數據具有相同的維度。
在自編碼器中，訓練過程的目標是使輸出數據與輸入數據儘可能相似，這可以通過最小化重建誤差來實現。訓練結束後，編碼器學習到的潛在表示對於數據來說是非常重要的，因為它在儘量不損失信息的情況下表達了原始數據。