Promiňte, napsal jsem to narychlo a podmínka je špatně. Takhle je správně.
if ((rectangle.getHeight() / 4) > rectangle.getWidth()) {
text.setFont(Font.font(rectangle.getWidth() * 4));
}
Opět připomínám, že fakt, že se velikost textu ve skutečnosti neuvádí v pixelech, teď ignoruji.