熱泵這一術語，源于與水泵在功能上的形象化的對比。水泵的功能在于把水從低水位處抽吸到高水位處排放。熱泵的作用則是把熱從低位勢(低溫端)抽升到高位勢(高溫端)排放，因此人們把這種裝置視作一種特殊的泵，稱為熱泵。就其熱力學循環過程而言，制冷機和熱泵都是基于逆循環而實現其功能的。所以，在很多文獻里，郝把基于逆循環工作的熱機稱為熱泵。這樣，制冷機本身實質上也就是熱泵。這只不過是對由外部提供能源作功，應用逆循環過程作成的一種裝置的兩種稱謂罷了。由于這種裝置在運行過程中，總是一邊吸熱(制冷)，同時另一邊排熱(制熱)，所以，一臺裝置伴生并兼具制冷和“制熱”兩種功能。如果一臺裝置僅著眼于利用其低溫端的吸熱效應，習慣上便稱它為制冷機;如果這一裝置只著眼于其高溫端放熱效應的利用，或者是它除用于制冷外，還有同時或定期切換用于確保其高溫端放熱效應利用的，習慣上便稱為熱泵。

在熱泵穩定運行工況下，如不考慮異致效率降低的各種損失，其輸出和輸入的能量應是平衡的。

電能也可以像電加熱器、電爐那樣直接用于加熱。這種用電直接加熱所能獲得的熱量不管電能是在什么溫度條件下轉換成熱能的，其每1kW的電最多只能得到1kW的熱。但是，如果把同樣1kW的電用作熱泵的動力，則可得到比1kW多的熱量。這決不意味著能量守衡原理受到了破壞，而是因為輸入給熱泵的電能不但本身轉變成了熱，而且靠它作功，把大量存在于周圍環境介質中處于低位勢的熱連帶著提高到了可予以利用的一定高的位勢。在外部條件適宜的情況下，熱泵的產熱量有可能超過輸入功率的若干倍。這就是采用熱泵之所以能比電熱的支接轉換，在能效上合算得多的道理。

在論及熱泵機組時，并未把一些雖然也能在制冷、供冷的同時，提供部分熱水的冷水機組納入熱泵類，而是把它們作為各類冷水機組的派生型。歸類于熱回收型冷水機組。其原因在于這類機組不能獨立地按制熱和供熱工況運行，它們的放熱效應依賴于制冷運行工況，并以此為前提條件，因而，其副產品—回收的熱量是得不到確保的。