Usi la classe
VideoMode.
In pratica all'avvio fai
std::vector<VideoMode> videoModes = sf::VideoMode::GetFullscreenModes();
Ora hai tutte le risoluzioni supportate in Fullscreen dal computer attuale e puoi proporle all'utente o sceglierne una (ad esmepio la più grande)
Poi la passi per argomento a RenderWindow quando la crei.
Per quanto riguarda una applicazione windowed non ha nessun tipo di vincolo sulla risoluzione, a differenza delle applicazioni full screen.
Quindi ti basta scegliere una risoluzione più piccola della massima in full screen.