Решить систему. x^3+(xy)^3+y^3=17 x+xy+y=5

Преобразуем левую часть первого уравнения:
$x^3+(xy)^3+y^3=(x+y)(x^2-xy+y^2)+(xy)^3=\\=(x+y)((x+y)^2-3xy)+(xy)^3$

Сделаем замену $x+y=u;\quad xy=v$ . Система примет вид
$\begin{cases}u(u^2-3v)+v^3=17\\ u+v=5\end{cases}$
$\begin{cases}u^3-3uv+v^3=17\\ u+v=5\end{cases}$

Опять преобразуем первое уравнение:
$u^3-3uv+v^3=(u+v)((u+v)^2-3uv)-3uv=17$

Подставляем известное значение u+v=5.
5(25-3uv)-3uv=17
uv=6

Имеем u+v=5, uv=6. По теореме Виета u, v - корни квадратного уравнения
$t^2-5t+6=0 \\ t_1=2;\quad t_2=3$

1) u=2, v=3
x+y=2, xy=3
x,y - корни уравнения t^2-2t+3=0
У последнего уравнения действительных корней.

2) u=3, v=2
x+y=3, xy=2
(x,y) = (2,1) или (1,2)

Ответ. (2,1) или (1,2)