Level 3 KI im Trading · Teil 5/8

Überlappende Beispiele und Stichprobengewichte

Fast jedes Standardverfahren des maschinellen Lernens setzt voraus, dass die Trainingsbeispiele unabhängig gezogen sind. Bei Finanzdaten ist diese Annahme nicht annähernd erfüllt – und die Verletzung ist nicht klein, sondern dominant.

Woher die Abhängigkeit kommt

Reicht ein Label über die nächsten zehn Perioden, dann teilen sich zwei benachbarte Beispiele neun dieser zehn Perioden. Ihre Ergebnisse werden von weitgehend denselben Kursbewegungen bestimmt.

Für ein Modell sieht das aus wie Bestätigung: derselbe Zusammenhang, immer wieder. Tatsächlich ist es eine einzige Beobachtung, zehnfach eingetragen. Die effektive Stichprobengröße ist dadurch drastisch kleiner als die Zeilenzahl der Tabelle – und Konfidenzaussagen, die auf der Zeilenzahl beruhen, sind entsprechend zu eng.

Uniqueness

Der Ausweg beginnt mit einer Messung. Für jeden Zeitpunkt wird gezählt, wie viele Labels ihn gleichzeitig abdecken. Ein Beispiel, dessen Ergebnisfenster sich mit vielen anderen überschneidet, ist wenig einzigartig; eines, das allein steht, ist es vollständig.

Die durchschnittliche Einzigartigkeit über sein Fenster ergibt für jedes Beispiel ein Gewicht. Beim Training zählen stark überlappende Beispiele damit weniger. Der Effekt ist unspektakulär und wichtig: Das Modell hört auf, Wiederholung mit Evidenz zu verwechseln.

Gewichtung nach Ergebnisgröße

Eine zweite, unabhängige Gewichtung: Beispiele, deren zugehörige Bewegung groß war, tragen mehr Information als solche, die knapp über der Rauschgrenze lagen. Üblich ist eine Gewichtung nach der absoluten Rendite über das Ergebnisfenster, geteilt durch die Zahl der gleichzeitig laufenden Labels.

Beides zusammen – Einzigartigkeit und Ergebnisgröße – bringt das Training näher an das, was ökonomisch zählt.

Zeitverfall

Märkte ändern sich. Ein Zusammenhang aus 2011 ist nicht falsch, aber vermutlich weniger relevant als einer aus dem letzten Jahr. Ein linear oder exponentiell abfallendes Zeitgewicht trägt dem Rechnung.

Die Einstellung ist ein Tausch, kein Optimierungsproblem: Ein starker Verfall macht das Modell anpassungsfähig und instabil, ein schwacher stabil und träge. Wichtig ist nur, dass die Entscheidung bewusst getroffen und nicht anhand der Testdaten eingestellt wird – sonst ist sie der nächste Weg, Testdaten zu verbrauchen.

Sequential Bootstrap

Bagging-Verfahren wie Random Forests ziehen Trainingsbeispiele zufällig mit Zurücklegen. Bei überlappenden Daten landen dadurch fast identische Beispiele in derselben Ziehung, und die Bäume eines Waldes werden einander ähnlicher als gewollt – der ganze Vorteil des Ensembles schrumpft.

Das Sequential Bootstrap korrigiert das: Die Ziehungswahrscheinlichkeit eines Beispiels sinkt, sobald ein damit überlappendes Beispiel bereits gezogen wurde. Ergebnis sind Ziehungen mit deutlich höherer durchschnittlicher Einzigartigkeit und Ensembles, deren Mitglieder tatsächlich unterschiedlich sind.

Der praktische Kern

Alle drei Korrekturen tun dasselbe: Sie verhindern, dass Wiederholung als Bestätigung gezählt wird. Das ist derselbe Fehler, den Level 2 bei zu kleinen Stichproben beschreibt – hier nur formalisiert und messbar gemacht.

Weiterlesen

Dieselbe Überlappung ruiniert auch die Validierung. Wie man sie repariert, steht im nächsten Artikel.