The bright red cover of the novel is what first caught her eye in the bookstore.

caught 是动词 catch 的过去式，catch 本意是"抓住、捕捉"，在这里引申为"吸引、引起"的意思。 eye 的意思是"眼睛"，在这里指"注意力、目光"。 caught her eye 是一个固定搭配，意思是"吸引她的注意"或"引起她的兴趣"。