We've had a few problems, but on the whole we're very happy.

on 是介词，在这里表示"关于、在...方面"。 the 是定冠词，在这里特指"整体情况"。 whole 是名词，意思是"整体、全部"。 on the whole 是一个固定短语，意思是"总的来说、大体上"，用于对整体情况做出概括性评价。