goose в гайде, который я тебе отправил выше написано о возможной необходимости установить enable-query=true. Я конечно понимаю что это никак не относится к RCON, но попробовать все равно стоит.
В некоторых случаях необходимо включить query в файле server.properties. Установите параметры enable-query=true и query.port=Х,
где Х — порт вашего сервера (по умолчанию 25565 для Java версии и 19132 для Pocket Edition).
Проверь правильность введённых данных. Попробуй написать пароль без символов. Только буквы и цифры. Экспериментатируй 😃
Также хочу уточнить, твой сервер находится у тебя на компьютере или на хостинге?