Verlängere nach Möglichkeit nicht die Kabel vom ESC zum Akku, sondern die Anschlüsse vom ESC zum Motor! Warum? Mit zunehmender Leiterlänge erhöhen sich die induzierten Spannungsspitzen und können ein Vielfaches der Akkuspannung erreichen, die Eingangskondensatoren am ESC werden auf Dauer beschädigt, was wiederum zum "Abrauchen" des ESC führen kann. Lange Motorenkabel können zwar Interferenzen verursachen, dass lässt sich aber durch das Verdrillen der einzelnen Adern einfach und wirkungsvoll reduzieren. Wenn du aber nur die Akkukabel verlängern kannst, musst du zusätzliche ESR-Elkos am ESC anlöten. Als Faustregel gilt: pro 10 cm zusätzlicher Leitungslänge ist eine Verdopplung der Kapazität der am ESC serienmäßig verbauten Elkos nötig.
Hast du mal andere Einstellungen für die PWM-Frequenz ausprobiert, das könnte auch zur Reduzierung der Verlustleistung (Erwärmung) beitragen?