at-dispatch-v2

Offizieller PyTorch-Leitfaden zur Umstellung von AT_DISPATCH-Makros auf AT_DISPATCH_V2.

at-dispatch-v2 ist ein offizieller Skill aus dem PyTorch-Quellrepository für die Umstellung älterer AT_DISPATCH-Makros auf die neue AT_DISPATCH_V2-Schnittstelle. Er richtet sich an Entwicklerinnen und Entwickler, die ATen-C++-Dateien, CUDA-Kernels oder native Operator-Implementierungen im PyTorch-Quellbaum bearbeiten. Laut Anbieter ist der Skill besonders dann gedacht, wenn Makros wie AT_DISPATCH_ALL_TYPES_AND, AT_DISPATCH_FLOATING_TYPES oder verwandte Varianten in das neue, ausdrücklich komponierbare Format überführt werden sollen. Der Eintrag ist damit ein fokussierter Arbeitsleitfaden für Quellcodeänderungen und kein eigenständiges Paket, kein Compiler und keine allgemeine Einführung in C++-Makros.

Zweck und Einordnung

Die Anleitung verweist auf aten/src/ATen/Dispatch_v2.h als Definition der neuen API. Der zentrale Unterschied liegt in der Argumentordnung. Der skalare Typ und der Debug-Name stehen zuerst, danach folgt die Lambda-Funktion und anschließend die expliziten Typgruppen. Eine bestehende Verwendung wird dadurch nicht bloß umbenannt; ihre Semantik muss gelesen und sorgfältig in die neue Form übertragen werden. Der Skill hilft, diese Schritte systematisch abzuarbeiten und den tatsächlichen Typumfang sichtbar zu machen. Das ist besonders relevant, wenn ein Kernel mehrere Ganzzahl-, Gleitkomma-, komplexe oder quantisierte Typen akzeptiert.

Praktische Umstellung

Laut Anbieter soll zunächst der Include für Dispatch_v2.h neben dem bestehenden Dispatch-Include ergänzt werden. Das ältere Include bleibt erhalten, weil andere Stellen der Datei weiterhin dessen Definitionen benötigen können. Danach werden die verwendeten Makros klassifiziert. Ein Basismakro für alle Typen wird beispielsweise als AT_ALL_TYPES ausgedrückt, während Gleitkomma-, Ganzzahl- oder komplexe Gruppen eigene AT_EXPAND-Ausdrücke erhalten. Zusätzliche Typen wie Half, BFloat16 oder einzelne Float8-Varianten werden am Ende einzeln genannt. Die Lambda wird mit AT_WRAP umschlossen. Dieser Schritt schützt vor Problemen, wenn der Lambda-Ausdruck selbst Kommata in Template-Argumenten oder Funktionsaufrufen enthält.

Review und Qualität

Die Migration sollte jede betroffene Makroverwendung, jeden Operatornamen und alle zusätzlichen Typen einbeziehen. Ein mechanisches Ersetzen kann einen falschen Typumfang, eine unpassende Reihenfolge oder eine fehlende Include-Abhängigkeit erzeugen. Deshalb empfiehlt sich ein Review gegen Dispatch_v2.h sowie gegen die konkrete Kernel-Implementierung. Prüfe außerdem, ob die neue Schreibweise dieselben Datentypen wie der alte Pfad abdeckt und ob Fehlermeldungen den weiterhin hilfreichen Operatornamen enthalten. Laut Anbieter ist der Skill auf ATen-Code und native Operatorarbeit zugeschnitten; er sagt nicht voraus, dass eine beliebige Drittanbieter-Makrodefinition kompatibel ist.

Grenzen und Sicherheit

Der Leitfaden verändert keine installierte PyTorch-Version und führt keine Änderungen automatisch aus. Er setzt einen kontrollierten lokalen Klon, Kenntnisse in C++, PyTorch-Builds und den jeweiligen Backend-Dateien voraus. Vor einer Änderung sollten Branch, Commit und lokale Arbeitskopie geprüft werden. Unbekannte Skripte, generierte Dateien und Befehle mit externen Nebenwirkungen gehören nicht ungeprüft in den Arbeitsablauf. Die Konvertierung garantiert weder gleiche Laufzeit noch gleiche numerische Ergebnisse; diese Eigenschaften müssen mit den passenden PyTorch-Tests und einem Review der betroffenen Kernel validiert werden.

Quelle und Kompatibilität

Die Primärquelle ist https://github.com/pytorch/pytorch/tree/main/.claude/skills/at-dispatch-v2. Ergänzend beschreibt die offizielle PyTorch-Dokumentation unter https://docs.pytorch.org/docs/stable/notes/extending.html, wie Erweiterungen und native Operatorarbeit in das Projekt eingeordnet werden. Der PyTorch-Quellbaum steht unter BSD-3-Clause. Diese Beschreibung wurde am 9. September 2026 geprüft. GitHub-Sterne werden nicht gespeichert, weil das Skill-Modell kein github_stars-Feld besitzt. Die Kompatibilität mit Claude Code folgt aus der Veröffentlichung als Ressource unter .claude/skills; die fachliche Prüfung muss trotzdem gegen den konkreten PyTorch-Stand erfolgen.

Installationsanleitung

Was at-dispatch-v2 ist und wofür es gebraucht wird

Der Skill at-dispatch-v2 stammt direkt aus dem offiziellen PyTorch-Repository von pytorch/pytorch und liegt dort im Verzeichnis .claude/skills als Teil der projekteigenen Werkzeuge für Coding-Agenten. Laut Anbieter, dem PyTorch-Projekt selbst, hilft der Skill dabei, veraltete AT_DISPATCH-Makros im C++-Kernbereich ATen in das neuere AT_DISPATCH_V2-Format zu überführen, wie es in der Datei aten/src/ATen/Dispatch_v2.h definiert ist. ATen ist die Tensor-Bibliothek, auf der PyTorch aufbaut, und die AT_DISPATCH-Makros steuern, für welche Datentypen ein bestimmter Rechenkern kompiliert und zur Laufzeit ausgewählt wird. Das alte Makro-System benötigte für jede Kombination zusätzlicher Typen eine eigene Makrovariante wie AND2, AND3 oder AND4, was den Code unübersichtlich machte. Für Entwickler, die an PyTorch-internen CUDA- oder CPU-Kerneln mitarbeiten, ist dieser Skill relevant, weil er die mechanische, fehleranfällige Umschreibarbeit automatisiert und dabei die Reihenfolge der Argumente korrekt einhält.

Schritt 1: Voraussetzungen

Um den Skill sinnvoll zu nutzen, braucht man Zugriff auf den PyTorch-Quellcode, üblicherweise über einen lokalen Checkout des Repositoriums, sowie einen Coding-Agenten wie Claude Code, der das .claude/skills-Verzeichnis automatisch einliest. Grundkenntnisse in C++ und ein Verständnis der ATen-Dispatch-Mechanik sind hilfreich, um die vom Agenten vorgeschlagenen Änderungen zu überprüfen. Da der Skill ausdrücklich keinen Compile- oder Testlauf durchführt, muss die vom PyTorch-Buildsystem verwendete Toolchain, etwa CMake und ein passender C++-Compiler, separat vorhanden sein, um die Konvertierung im Anschluss zu verifizieren.

Schritt 2: Einrichtung Schritt für Schritt

Da der Skill Teil des offiziellen PyTorch-Repositoriums ist, muss er nicht separat installiert werden, sobald das Repository lokal vorliegt und Claude Code im Projektverzeichnis gestartet wird. Der Agent erkennt automatisch, wenn eine Datei AT_DISPATCH_ALL_TYPES_AND-artige Makros enthält oder der Nutzer explizit nach einer Dispatch-v2-Konvertierung fragt. Im Ablauf liest der Agent zunächst die betroffene Datei, ergänzt bei Bedarf das Include für Dispatch_v2.h, identifiziert das verwendete Makro-Muster, ordnet die Typgruppe der passenden AT_EXPAND-Angabe zu, extrahiert individuelle Zusatztypen und baut daraus den neuen AT_DISPATCH_V2-Aufruf zusammen. Abschließend zeigt der Agent die komplette geänderte Datei und erläutert die vorgenommenen Anpassungen, damit der Entwickler sie vor dem Commit gegenlesen kann.

Sicherheit und Best Practices

Da es sich um eine Quellcode-Transformation in einem sicherheitskritischen, breit genutzten Framework handelt, betont der Skill ausdrücklich, dass der Agent den Code nicht kompilieren oder testen soll, sondern sich strikt auf eine akkurate Umwandlung beschränkt. Das reduziert das Risiko, dass automatisierte Testläufe versehentlich unerwünschte Seiteneffekte auslösen, verlagert aber die Verantwortung für die Verifikation auf den Menschen. Vor dem Mergen einer Konvertierung sollte daher zwingend der reguläre PyTorch-Build- und Testprozess durchlaufen werden, inklusive der projektspezifischen CI-Prüfungen. Wichtig ist außerdem, das alte Dispatch.h-Include nicht zu entfernen, da andere Codeteile es weiterhin benötigen können, was der Skill korrekt berücksichtigt.

Praxisbeispiel und Grenzen

Ein typisches Beispiel ist die Umwandlung von AT_DISPATCH_ALL_TYPES_AND3(kBFloat16, kHalf, kBool, iter.dtype(), "min_values_cuda", [&]() { ... }) in die neue Form mit AT_DISPATCH_V2, bei der die Lambda-Funktion mit AT_WRAP umschlossen und die Typgruppe explizit mit AT_EXPAND(AT_ALL_TYPES) angegeben wird. Die Grenzen des Skills liegen darin, dass er ausschließlich für dieses eine, sehr spezifische Refactoring innerhalb des PyTorch-Codebasis gedacht ist und außerhalb dieses Kontexts, etwa in anderen C++-Projekten mit eigenen Dispatch-Mechanismen, keine Anwendung findet. Für PyTorch-Contributor ist er dennoch ein nützliches, eng abgegrenztes Werkzeug, das repetitive Migrationsarbeit beschleunigt.

Kostenlos
Anbieter
PyTorch
Lizenz
BSD-3-Clause
Zuletzt geprüft
09.09.2026

Repository und Dokumentation

Kategorien

Kompatibel mit

Claude Code