Aperte F11 e veja os scripts que você está usando. Primeiro dê uma olhada no Main lá no fim da lista. Caso você queira retornar ao tamanho padrão da tela, procure por esta linha e insira um # na frente dela:
Graphics.resize_screen(640, 416)
Deixando assim: #Graphics.resize_screen(640, 416). Você também pode deletá-la se preferir, mas caso deseje trocar novamente a resolução teria de adicioná-la novamente. Se não tiver uma linha semelhante - independente dos números que apareçam no lugar de 640, 416, diga quais scripts você incluiu. Talvez algum Core instalado esteja causando a alteração.
Lembrando que, se você encontrar essa linha no Main, esses números representam o tamanho da tela. Você sempre pode criar a imagem em 640x416, por exemplo.