Вложенный тернарный поиск можно применить, когда у нас оптимизационная задача с двумя неизвестными. Данная задача как раз про это.
Очевидно, что ворота будут в форме четырехугольника, с прямым углом в основании, тогда нам остается подобрать 2 угла (α и β) таким образом, чтобы площадь ворот была максимальной. Для этого создадим тернарный поиск, который даст нам 2 угла (α1и α2), и для каждого из этих α мы запустим еще один тернарный поиск, который подберет нам такие β, при которых площадь будет максимальной.
Подробнее можно прочитать здесь