2つのベクトルが垂直になるように、未知数tの値を定める問題ですね。 「内積が0」⇔「2つのベクトルが垂直」 は、ベクトルの問題で頻出のポイントです。必ず覚えるようにしましょう。

問題文に 垂直 とあるので、2つのベクトルの 内積が0 になりますね。
内積=x₁x₂+y₁y₂ より、
t×t+(-1)×(t+2)=0
⇔t²-t-2=0
⇔(t+1)(t-2)=0,
⇔ t=-1,2
となります。

問題文には、もう1つ使っていないヒントがありますね。 ｜ベクトルa｜=√5 です。

t=-1の時、ベクトルa=(-1,-1)より、長さは√(1+1)= √2 となり、NGですね。次にt=2を代入してみましょう。ベクトルa=(2,-1)となり、長さは√(4+1)= √5 。t=2のときのみ、問題の条件を満たしますね