If you need to leave early, by all means do so.

by 在这里表示"通过某种方式"。 all 的意思是"全部、所有"。 means 是名词，指"方法、手段"。 by all means 是一个固定短语，字面意思是"通过所有可能的方式"，引申为"当然可以"或"务必这样做"，表示完全同意或强烈建议。