Aus Versehen mehrere Jahre zu viel Miete gezahlt

Das ist kein Mietrecht. Sie müssen die zuviel bezahlte Miete zurückfordern.
Achtung: Verjährungsfrist: 3 Jahre
Der Anspruch des Mieters auf Rückzahlung der überzahlten Miete verjährt nach 3 Jahren, gerechnet vom Ende des Jahres, in dem der Anspruch entstanden ist.

Also würde ich sofort nachweislich die Ansprüche stellen. Oder sogar, falls sich nix tut, per Klage bei Gericht. Hauptsache, der Eingangsstempel von diesem Jahr ist (noch) drauf.

Warum Verjährungsfrist, es gab doch keine Mieterhoehung oder aehnliches?

Das hat nichts mit Mieterhöhungen zu tun.
Ansprüche aus zuviel gezahlter Miete (und anderen Dingen) verjähren nach 3 Jahren (Vgl. § 195 BGB).

Warum fällt sowas erst nach 6 Jahren auf?