(1)
y=-2x+1としてx²+y²に代入すると、
x²+(-2x+1)²
＝x²+4x²-4x+1
＝5x²-4x+1
これの最小値を求めるので、平方完成します
＝5(x²-4/5x)+1
＝5(x²-4/5x+4/25-4/25)+1
＝5(x²-4/5x+4/25)-4/5+1
＝5(x-2/5)²+1/5
よって、x＝2/5のとき、最小値1/5

(2)
x＝-2y-3として、xyに代入すると
(-2y-3)y
＝-2y²-3y
平方完成して
＝-2(y²+3/2y)
＝-2(y²+3/2y+9/16-9/16)
＝-2(y²+3/2y+9/16)+9/8
＝-2(y+3/4)²+9/8
よって最大値はy=-3/4のとき、9/8