Les régulateurs linéaires LDO (LOW DROPOUT VOLTAGE) tel que AMS1733 ou HT7133, n'ont un drop-out vraiment "low" que pour des courants très faibles (~10mA).

Quant aux régulateurs "step up" à découpage, ils génèrent trop de parasites HF pour cette application de réception FM large bande. (J'ai testé). Il y a peut-être une soluce en les blindant et en filtrant énergiquement la sortie.

Reste la solution bourrin avec une batterie LiPo 2S (8V4 donc) sur l'entrée 5V (qui est en fait l'input d'un régulateur 3V3 (AMS1117) implanté sur les cartes ESP32)