Ilma-vesilämpöpumpussa on tavallisesti kaksi osaa, ulko- ja sisäyksikkö. Ulkoyksikössä on puhallin, joka kierrättää ulkoilmaa höyrystimen läpi. Ulkoilman lämpö siirtyy höyrystimen kylmäaineeseen, joka muuttuu kaasuksi. Ilma-vesilämpöpumpun kompressori puristaa kaasun korkeampaan paineeseen, ja se kuumenee. Kuuma kaasu lämmittää talon lämmitysveden ja lämpimän käyttöveden.
Ilma-vesilämpöpumput jakautuvat toimintansa perusteella pääasiassa kahteen ryhmään. Split-tekniikalla toimivissa ilma-vesilämpöpumpuissa sisä- ja ulkoyksikön välillä kiertää lämpöpumpun kylmäaine. Kylmäaine menee sisäyksiköltä ulkoyksikölle nestemäisenä, ja palaa ulkoyksiköltä takaisin sisäyksikölle kuumana kaasuna, joka lämmittää veden. Monoblock-tekniikalla toimivissa ilma-vesilämpöpumpuissa sisä- ja ulkoyksikön välillä kiertää vesi. Vesi virtaa sisäyksiköltä ulkoyksikölle, ja ulkoyksikön lämpöpumppu lämmittää veden, joka palaa takaisin sisäyksikölle lämmenneenä.
Split-tekniikan etuna on se, että kylmäaine ei voi missään olosuhteissa jäätyä, joten toteutustapa on erittäin turvallinen esimerkiksi alueilla, joilla esiintyy pitkiä sähkökatkoja. Monoblock-tekniikalla voidaan puolestaan saavuttaa korkea hyötysuhde. Suurin osa ruotsalaisista valmistajista käyttää monoblock-tekniikkaa ilma-vesilämpöpumpuissaan. Sekä split- että monoblock-laitteet sopivat pohjoisiin olosuhteisiin, jos ne ovat laadukkaita ja ammattitaitoisesti asennettuja.
Pohjoisissa oloissa on tärkeintä, että ilma-vesilämpöpumppu toimii hyvällä hyötysuhteella myös pakkasilla. Mitä paremmalla hyötysuhteella laite toimii, sitä suuremmat lämmitysenergian ja lämmityskustannusten säästöt saavutetaan. Pohjoisiin olosuhteisiin sopivassa ilma-vesilämpöpumpussa on huomioitu myös ulkoyksikön sulatusveden hallittu johtaminen pois, jotta ulkoyksikön alle tai sisälle ei kerry jäätä, mikä voisi estää ilma-vesilämpöpumpun puhaltimen pyörimisen.
