f(x)=x²e^-xの増減を調べる問題です。関数の増減は，導関数f'(x)の符号から調べることができますね。次の3つの手順にしたがって，増減を調べていきます。

f'(x)≧0ならばf(x)は増加，f'(x)≦0ならばf(x)は減少です。手順③では，f'(x)の符号が変わる分岐点を意識しましょう。

まずは， ①導関数f'(x)を計算 しましょう。
f'(x)=(x²e^-x)'
積の微分公式より，(前の微分)×(後ろそのまま)+(前そのまま)×(後ろ微分)で計算すると，
f'(x) =(x²)'e^-x+x²(e^-x)'
　　　=2xe^-x+x²×(-e^-x)
　　　=x(2-x)e^-x

次に， ②f'(x)=0を解きます 。
f'(x)=x(2-x)e^-xにおいて， e^-xは必ず正の値になることから，f'(x)=0のとき，x=0，2とわかりますね。

最後に， ③増減表 を書きましょう。このとき，f'(x)=x(2-x)e^-xにおいて，符号を決定するのはx(2-x)の式だと頭に入れておくと，増減表が書きやすくなります。

増減表の一番上の段には，xの値を書きます。f'(x)=0となるときのxの値0，2を入れています。真ん中の段には，f'(x)の符号を書きます。x＜0のときにx(2-x)＜0となるのでf'(x)は負ですね。同様にf'(x)の符号を調べると，0＜x＜2のときにf'(x)は正，2＜xのときにf'(x)は負です。一番下の段には，f(x)の増減を書き入れます。f'(x)＞0ならば増加(↗)，f'(x)＜0ならば減少(↘)ですね。

今回はf(x)の増減を調べるのが目的です。増減表だけでも構いませんが，次のように答えをまとめておくとよいでしょう。