球面とxy平面が交わってできる円の方程式を求める問題です。次のポイントの解法にしたがって解きましょう。

x²+(y-3)²+(z+1)²=17 という球面が、xy平面で交わります。xy平面を方程式で表すと、 z=0 ですね。つまりz=0を代入すれば円の方程式は求まります。

代入すると、
x²+(y-3)²+1²=17
x²+(y-3)²=16
となり円の方程式ですね。

注意
中心の座標でz座標を忘れてはいけません。 z=0 は必ずいれてください。この問題はxyz空間上での話になります。