Over het kasteel gaat de legende de ronde van “de dikke hertog”. In 1364 werd Hertog Reinoud van Gelre door zijn broer Eduard, ook Hertog van Gelre, gevangen gehouden op kasteel De NIjenbeek. Volgens de legende kreeg Hertog Reinoud tijdens zijn gevangenschap zo goed te eten, dat hij na verloop van tijd niet meer door de deuren van De Nijenbeek paste en de deursponningen zelfs verwijderd moesten worden om de dikke hertog uit zijn benarde positie te kunnen bevrijden.