Un problema interesante con sistemas de ecuaciones

Este problema lo tomé del libro Mathematical Olympiad Challenges de Titu Andreescu y Razvan Gelca.
No es demasiado difícil, pero resolverlo requiere cierto ingenio. Se trabaja con un sistema de ecuaciones, sin embargo la idea no es resolverlo aunque esto es posible. Trabajando con el programa Derive obtuve la solución del sistema en 55.6 segundos. Para quienes conocen el programa se darán cuenta que es mucho tiempo. Además las soluciones obtenidas son algo engorrosas hallar lo que se pide en el ejercicio. A modo de ejemplo (hay dos cuaternas solución):
\[x=-\sqrt{87}-7, y=\sqrt{87}-7, \\a=\dfrac{49}{76}-\dfrac{457\sqrt{87}}{6612}, b=\dfrac{49}{76}+\dfrac{457\sqrt{87}}{6612} \]

Un proceso alternativo, que evita resolver el sistema permite trabajar con números más simples.
Como lo importante es el proceso, no me molesta adelantar que la respuesta es \(20\).

Aquí la propuesta:
Halle \(ax^5+by^5\) si los números reales \(a, b, x, y\) satisfacen el sistema de ecuaciones
\[ax+by=3,\\ax^2+by^2=7,\\ax^3+by^3=16,\\ax^4+by^4=42.\]
A buscar la forma de obtener la respuesta. Adelante!!!