We had to learn the whole poem off by heart.

by 在这里表示方式或手段，意思是"通过...方式"。 heart 本义是"心脏"，引申为"记忆、内心"，因为古人认为记忆和情感都来自心脏。 by heart 这个短语的意思是"靠记忆、背诵"，指完全记住并能复述出来。