When writing to a government office, I always close with Yours faithfully to maintain formality.

Yours 在这里是代词"你的"的所有格形式，表示"属于你的"。 faithfully 是形容词 faithful 的副词形式，faithful 意思是"忠诚的、忠实的"，faithfully 表示"忠实地、诚实地"。 Yours faithfully 是英语正式信函的标准结尾用语，用于收信人不认识写信人的情况，相当于中文的"此致 敬礼"。