I started to clear the table with a heavy heart.

with 在这里表示伴随状态，指"带着某种心情或态度"。 a 是不定冠词，表示"一个"或"某种"。 heavy 本义是"重的"，在这里比喻"心情沉重的"。 heart 本义是"心脏"，引申为"心情、情感"。 with a heavy heart 是固定搭配，表示"怀着沉重的心情"。