Vereinfacht gesagt, hebt sie mit Hilfe von Strom Wärme von einem niedrigen auf ein höheres, besser nutzbares Temperaturniveau an. Auf diese Weise kann mit der gleichen Menge Strom wesentlich mehr Wärme erzeugt werden als bei der direkten Umwandlung von elektrischer Energie in Wärme, wie das zum Beispiel bei einer Elektroheizung der Fall ist. Die Wärme kann direkt vor Ort genutzt, bei Bedarf gespeichert oder über ein Wärmenetz verteilt werden. Stammt der Strom für den Betrieb der Wärmepumpe aus erneuerbaren Quellen wird die Wärme sogar komplett CO2-neutral gewonnen, weil keine fossilen Energieträger wie Kohle, Öl oder Gas zum Einsatz kommen.
Die Funktionsweise industrieller Großwärmepumpen entspricht im Wesentlichen dem Funktionsprinzip der im privaten Umfeld genutzten Modelle. Sie funktionieren ähnlich wie Kühlschränke, wobei im Gegensatz zu diesen selbstverständlich Wärme- und nicht Kälteerzeugung das Ziel ist. Sie können einer Wärmequelle Wärme entziehen und mittels Kompressor, Kondensator, Verdampfer und eines speziellen Kältemittels auf ein höheres Niveau anheben.