Подсказка 1

Давайте посмотрим на нашу систему и попробуем найти какие-то паттерны. Заметим, что и сверху, и снизу у нас коэффициент перед членами с a и b, равен 3(или 9, когда возвели в квадрат). Да и свободный коэффициент один и тот же. Что же тогда надо сделать?

Подсказка 2

Надо вычесть второе из первого. После чего, слева мы получим c(a - 3b), а справа (3b - a)(3b + a). Значит, разложили на скобочки. Значит, либо c = 3b - a, либо а = 3b. То есть, мы выразили одну переменную через другие. Что мы обычно делаем в таком случае?

Подсказка 3

Верно, мы подставляем наше выражение вместо этой переменной и решаем уже полученную систему. Остается сделать это, понять, какой случай возможен, какой нет, и чему равно искомое ab.