-
Die vorliegende Erfindung bezieht sich auf ein computerimplementiertes Verfahren zur Kalibrierung eines elektrischen Antriebsstrangs eines Fahrzeugs.
-
Definition: Unter dem Begriff „Fahrzeug“ sollen im Rahmen der vorliegenden Anmeldung Landfahrzeuge, insbesondere Kraftfahrzeuge, Wasserfahrzeuge, insbesondere Boote, sowie Luftfahrzeuge verstanden werden.
-
Aus dem Stand der Technik sind bereits einige Ansätze zur Kalibrierung eines elektrischen Antriebsstrangs eines Fahrzeugs bekannt, die Methoden der künstlichen Intelligenz, insbesondere auch Methoden des verstärkenden Lernens, einsetzen. So beschreibt zum Beispiel die
WO 2021/104753 A1 ein Verfahren zur Kalibrierung einer elektrischen Antriebsvorrichtung, wobei das Verfahren eine selbstlernende beziehungsweise selbstkalibrierende Regelung für die elektrische Antriebsvorrichtung bereitstellt. Ein Verfahren zur Kalibrierung eines Antriebsstrangs in Echtzeit, das ebenfalls Methoden der künstlichen Intelligenz einsetzt, ist aus der
WO 2020/023746 A2 bekannt.
-
Die vorliegende Erfindung macht es sich zur Aufgabe, ein computerimplementiertes Verfahren zur Kalibrierung eines elektrischen Antriebsstrangs eines Fahrzeugs zur Verfügung zu stellen, welches die Kalibrierung des elektrischen Antriebsstrangs weiter vereinfachen und intuitiver gestalten kann.
-
Die Lösung dieser Aufgabe liefert ein computerimplementiertes Verfahren zur Kalibrierung eines elektrischen Antriebsstrangseines Fahrzeugs mit den Merkmalen des Anspruchs 1. Die Unteransprüche betreffen vorteilhafte Weiterbildungen der Erfindung.
-
Ein erfindungsgemäßes computerimplementiertes Verfahren zur Kalibrierung eines elektrischen Antriebsstrangs eines Fahrzeugs umfasst die Schritte
- - Bereitstellen eines Transformers, der dazu ausgebildet ist, eine Eingabe eines Nutzers, die zumindest eine Kalibrierungsaufgabe definiert, als Spracheingabe und/oder als Texteingabe zu empfangen und in eine codierte, maschinenlesbare Ausgabe zu wandeln,
- - Bereitstellen eines maschinellen Lernagenten, der so konfiguriert ist, dass er die codierte, maschinenlesbare Ausgabe des Transformers als Eingangsparameter empfängt und eine Lernverstärkungsfunktion ausführt, bei der er mit dem elektrischen Antriebsstrang interagiert und Aktionen ausführt, welche Kalibrierungsparameter und Zustände des elektrischen Antriebsstrangs verändern,
- - Empfangen einer Eingabe des Nutzers und Wandeln der Eingabe in die codierte, maschinenlesbare Ausgabe,
- - Übertragen der codierten, maschinenlesbaren Ausgabe zum maschinellen Lernagenten und
- - wiederholtes Ausführen der Lernverstärkungsfunktion des maschinellen Lernagenten, bis die Kalibrierungsaufgabe gelöst ist, wobei der maschinelle Lernagent nach der Durchführung jeder Aktion in Abhängigkeit von den daraus resultierenden Zuständen des elektrischen Antriebsstrangs eine positive, neutrale oder negative Belohnung erhält.
-
Das erfindungsgemäße Verfahren ermöglicht es in vorteilhafter Weise, Nutzereingaben, die Kalibrierungsaufgaben definieren, mittels des Transformers automatisiert in die codierte, maschinenlesbare Ausgabe zu transformieren und dem maschinellen Lernagenten zur Verfügung zu stellen. Die Ausgaben des Transformers repräsentieren technische Ziele für den maschinellen Lernagenten, die bei der Kalibrierung des elektrischen Antriebsstrangs, der eine elektrische Maschine umfasst, erreicht werden sollen. Der Lernagent arbeitet nach dem Prinzip des bestärkenden Lernens (so genanntes „Reinforcement Learning“), um den elektrischen Antriebsstrang des Fahrzeugs in einem iterativen, sich wiederholenden Prozess zu kalibrieren. Der Nutzer interagiert dabei mittels des Transformers auf unmittelbare Weise direkt mit dem Lernagenten, ohne dass er diesen selbst programmieren oder konfigurieren muss. Dadurch können Kalibrierungsprozesse elektrischer Antriebsstränge in vorteilhafter Weise erheblich beschleunigt werden.
-
Der Transformer ist so konfiguriert, dass er die Eingabe des Nutzers als Spracheingabe und/oder als Texteingabe empfängt und in die codierte, maschinenlesbare Ausgabe wandelt. Der Transformer ist so ausgebildet, dass er eine Kodierer-Schicht mit einer Mehrzahl von Kodierern sowie eine Dekodierer-Schicht mit einer Mehrzahl von Dekodierern umfasst. Sowohl in den Kodierern als auch in den Dekodierern sind so genannte Aufmerksamkeits-Module, die in der Fachwelt häufig auch als „Attention-Module“ bezeichnet werden, mit entsprechenden Aufmerksamkeitsalgorithmen implementiert. Die Eingaben des Nutzers werden dem Transformer als Spracheingaben in Form von Audiosignalen und/oder als Texteingaben, die vom Nutzer mittels einer geeignet ausgebildeten Eingabevorrichtung erstellt werden, zur Verfügung gestellt. Die Interaktion eines Nutzers mit dem Transformer kann somit sehr einfach und intuitiv erfolgen.
-
In einer vorteilhaften Ausführungsform ist vorgesehen, dass das Verfahren einen Schritt des Trainierens des Transformers vor dessen Verwendung in einem Produktivbetrieb umfasst.
-
In einer besonders vorteilhaften Ausführungsform wird vorgeschlagen, dass der Transformer durch halbüberwachtes Lernen trainiert wird. Dieses halbüberwachte Lernverfahren umfasst vorzugsweise ein unüberwachtes Vortraining und eine sich daran anschließende überwachte Feinabstimmung. Das Vortraining wird in der Regel mit einem größeren Trainingsdatensatz durchgeführt als die Feinabstimmung, da hierfür nur eine begrenzte Anzahl von Trainingsdaten zur Verfügung steht. Da das hier vorgestellte Verfahren einen entsprechend trainierten Transformer verwendet, ist es für einen Nutzer, insbesondere für einen Ingenieur oder Techniker, sehr einfach und intuitiv möglich, eine Spracheingabe und/oder Texteingabe in eine Kalibrierungsaufgabe, die mittels des Lernagenten durch verstärkendes Lernen gelöst werden soll, zu transformieren.
-
In einer bevorzugten Ausführungsform kann vorgesehen sein, dass der Transformer so konfiguriert ist, dass die Ausgabe dem maschinellen Lernagenten angibt, welche Kalibrierungsparameter des elektrischen Antriebsstrangs der maschinelle Lernagent bei seinen Aktionen ändern kann, um die Kalibrierungsaufgabe zu lösen. Dadurch kann der maschinelle Lernprozess des Lernagenten zuverlässiger und damit auch effizienter gestaltet werden.
-
In einer Ausführungsform kann der Transformer so konfiguriert sein, dass er Belohnungsbedingungen festlegt, unter denen der maschinelle Lernagent Belohnungen für seine Aktionen erhält. Diese Belohnungsbedingungen hängen insbesondere davon ab, ob die Zustände des elektrischen Antriebsstrangs, die sich durch die Aktionen des maschinellen Lernagenten ergeben, als positiv, neutral oder negativ zu bewerten sind.
-
Gemäß einem weiteren Aspekt betrifft die vorliegende Erfindung ein System zur Kalibrierung eines elektrischen Antriebsstrangs eines Fahrzeugs.
-
Ein erfindungsgemäßes System umfasst gemäß Anspruch 6 eine digitale Verarbeitungseinheit und eine digitale Speichereinheit. In der digitalen Speichereinheit sind Instruktionen gespeichert, die durch die Verarbeitungseinheit auslesbar und ausführbar sind. Die Instruktionen sind dazu ausgebildet, die digitale Verarbeitungseinheit beim Auslesen der Instruktionen zur Durchführung eines Verfahrens nach einer Ausführungsform der Erfindung zu veranlassen.
-
Weitere Merkmale und Vorteile der vorliegenden Erfindung werden deutlich anhand der nachfolgenden Beschreibung eines bevorzugten Ausführungsbeispiels unter Bezugnahme auf die beiliegenden Abbildungen. Dabei zeigen:
- 1 eine schematisch stark vereinfachte Darstellung, die Einzelheiten eines computerimplementierten Verfahrens zur Kalibrierung eines elektrischen Antriebsstrangs eines Fahrzeugs veranschaulicht,
- 2 eine schematische Ansicht, welche die grundlegende Funktionsweise eines Transformers veranschaulicht, der bei dem Verfahren verwendet wird.
-
Unter Bezugnahme auf 1 verwendet das nachfolgend erläuterte computerimplementierte Verfahren zur Kalibrierung eines elektrischen Antriebsstrangs 3 eines Fahrzeugs, der eine elektrische Maschine umfasst, als zentrale Elemente zwei maschinelle Lernarchitekturen, die von einem Computersystem mit einer digitalen Verarbeitungseinheit ausgeführt werden. Bei einer dieser beiden maschinellen Lernarchitekturen handelt es sich um einen Transformer 1, der dazu ausgebildet ist, aus Eingaben 100a-100n, die er von einem Nutzer erhält, entsprechende Ausgaben 100a'-100n' in codierter, maschinenlesbarer Form zu erzeugen. Bei der anderen maschinellen Lernarchitektur handelt es sich um einen maschinellen Lernagenten 2, der dazu ausgebildet ist, die Ausgaben 100a'-100n' des Transformers 1 als Eingaben zu erhalten und in der weiter unten erläuterten Weise zu verarbeiten, um dadurch den elektrischen Antriebsstrang 3 durch Ausführung eines maschinellen Lernverfahrens zu kalibrieren.
-
Unter weiterer Bezugnahme auf 2 sollen nachfolgend Einzelheiten der Funktionsweise des Transformers 1 näher erläutert werden. Der Transformer 1 umfasst eine Kodierer-Schicht 10 mit einer Mehrzahl von Kodierern sowie eine Dekodierer-Schicht 11 mit einer Mehrzahl von Dekodierern. Sowohl in den Kodierern als auch in den Dekodierern sind so genannte Aufmerksamkeits-Module, die in der Fachwelt häufig auch als „Attention-Module“ bezeichnet werden, mit entsprechenden Aufmerksamkeitsalgorithmen implementiert.
-
Der Transformer 1 wird vor dem späteren Produktivbetrieb darauf trainiert, aus den Eingaben 100a-100n des Nutzers, bei denen es sich vorliegend um technische Anforderungen handelt, die an den zu kalibrierenden elektrischen Antriebsstrang 3 gestellt werden (nachfolgend kurz: Kalibrierungsaufgaben), entsprechend codierte, maschinell lesbare Ausgaben 100a'-100n' zu erzeugen, die von dem maschinellen Lernagenten 2 von einer Ausgabeschnittstelle 5 des Transformers 1 empfangen und weiterverarbeitet werden können.
-
Die Eingaben 100a-100n können dem Transformer 1 über eine Eingabeschnittstelle 4 zum Beispiel als Spracheingaben in Form von Audiosignalen und/oder als Texteingaben, die vom Nutzer mittels einer geeignet ausgebildeten Eingabevorrichtung erstellt werden, zur Verfügung gestellt werden.
-
Die Ausgaben 100a'-100n' des Transformers 1, welche von diesem automatisch erzeugt werden und in codierter, maschinenlesbarer Form die Eingaben des maschinellen Lernagenten 2 bilden, repräsentieren technische Ziele für den maschinellen Lernagenten 2, die bei der Kalibrierung des elektrischen Antriebsstrangs 3 erreicht werden sollen.
-
Während des Anlernprozesses durchläuft der Transformer 1 vorzugsweise ein halbüberwachtes Lernverfahren, welches ein unüberwachtes Vortraining und eine sich daran anschließende überwachte Feinabstimmung umfasst. Das Vortraining wird in der Regel mit einem größeren Trainingsdatensatz durchgeführt als die Feinabstimmung, da hierfür nur eine begrenzte Anzahl von Trainingsdaten zur Verfügung steht.
-
In der nachfolgenden Tabelle sind einige (ausdrücklich nicht als abschließend zu verstehende) Beispiele für mögliche Trainingsdaten - d. h. unterschiedliche Eingaben 100a-100n und die daraus resultierenden Ausgaben 100a'-100n' des Transformers 1 - angegeben:
Eingabe: | Ausgabe: |
„Minimiere die Abweichung des Drehmomentmodells.“ | Md - Mdgemessen ≤ 5% |
„Stelle sicher, dass das Drehmoment nicht höher als 500 Nm ist.“ | Mdmax ≤ 500 Nm |
„Minimiere den Verbrauch.“ | Bsfc < 360 W kg/h |
„Maximiere den Ladezustand der Traktionsbatterie.“ | SoC ≥ 75 % |
„Die Rotationsgeschwindigkeit beträgt 3000 Umdrehungen pro Minute.“ | nmot = 3000 1/min |
-
Nach dem Abschluss des Trainings steht der Transformer 1 für den nachfolgenden Produktiveinsatz bereit.
-
Unter erneuter Bezugnahme auf 1 sollen nun weitere Einzelheiten des Verfahrens zur Kalibrierung des elektrischen Antriebsstrangs 3 näher erläutert werden. In einem ersten Schritt macht der Nutzer, insbesondere ein Ingenieur oder Techniker, eine Eingabe 100a-100n, die insbesondere eine Kalibrierungsaufgabe definiert, die später vom maschinellen Lernagenten 2 gelöst werden soll. Wie oben erläutert, kann es sich bei dieser Eingabe 100a-100n insbesondere um eine Spracheingabe in Form eines Audiosignals und/oder um eine Texteingabe handeln, die mittels einer Eingabevorrichtung vorgenommen wird. Unter dem Begriff „Texteingabe“ soll in diesem Zusammenhang zum Beispiel auch die Auswahl eines Symbols durch einen Nutzer mittels einer Eingabevorrichtung verstanden werden, wobei das Symbol eine entsprechende Texteingabe visuell repräsentiert. Beispielsweise kann durch eine Eingabe 100a-100n folgende Kalibrierungsaufgabe für den Lernagenten 2 gestellt werden:
- „Kalibriere das Drehmoment des elektrischen Antriebsstrangs 3 mit einer Abweichung von maximal 5 %, wobei das maximale Drehmoment 800 Nm beträgt“.
-
Diese Eingabe 100a-100n wird von dem in der oben erläuterten Weise trainierten Transformer 1 in einem zweiten Schritt verarbeitet, so dass eine Ausgabe 100a'-100n' in codierter, maschinenlesbarer Form erzeugt wird, die von dem maschinellen Lernagenten 2 empfangen und in einem maschinellen Lernprozess verarbeitet werden kann. Diese Ausgabe 100a'-100n' bildet entsprechende Eingangsparameter für den maschinellen Lernagenten 2, der so konfiguriert ist, dass er eine Lernverstärkungsfunktion ausführen kann.
-
Der maschinelle Lernagent 2 weist eine Lernverstärkungsfunktion auf und ist dazu ausgebildet, unterschiedliche Aktionen A auszuführen, die die Systemzustände S des elektrischen Antriebsstrangs 3 verändern können. Diese Aktionen A sind das Erhöhen, das Verringern sowie das Gleichlassen veränderbarer Kalibrierungsparameter des elektrischen Antriebsstrangs 3, die sich auf die Systemzustände S des elektrischen Antriebsstrangs 3auswirken.
-
Der Transformer 1 kann zum Beispiel auch so konfiguriert sein, dass die Ausgabe 100a'-100n' nicht nur die Kalibrierungsaufgabe für den Lernagenten 2 bildet, sondern dem Lernagenten 2 auch angibt, welche Kalibrierungsparameter des elektrischen Antriebsstrangs 3 der maschinelle Lernagent 2 überhaupt erhöhen, verringern oder gleichlassen kann, um die Kalibrierungsaufgabe zu lösen.
-
Ferner kann der Transformer 1 vorzugsweise auch so konfiguriert sein, dass er Belohnungsbedingungen festlegt, unter denen der Lernagent 2 Belohnungen R für seine Aktionen A erhält. Diese Belohnungsbedingungen hängen insbesondere davon ab, ob die Zustände S des elektrischen Antriebsstrangs 3, die sich durch die Aktionen A des maschinellen Lernagenten ergeben, als positiv, neutral oder negativ zu bewerten sind.
-
Der maschinelle Lernagent 2 ist nun initialisiert und beginnt damit, den elektrischen Antriebsstrang 3 durch ein verstärkendes Lernverfahren zu kalibrieren, indem er die Lernverstärkungsfunktion wiederholt so lange ausführt, bis die ihm gestellte Kalibrierungsaufgabe gelöst ist. Die Aktionen A, die der maschinelle Lernagent 2 entsprechend seiner Strategie (der so genannten „Policy“) bei der Interaktion mit dem elektrischen Antriebsstrang 3 ausführt, indem er die Kalibrierungsparameter ändert, verändern die Zustände S („States“) des elektrischen Antriebsstrangs 3. Gemäß der dem maschinellen Lernagenten 2 vorliegend gestellten Kalibrierungsaufgabe handelt es sich bei den sich abhängig von den Aktionen A des Lernagenten 2 ändernden Zuständen S um das maximale Drehmoment des elektrischen Antriebsstrangs 3 und die Abweichung des maximalen Drehmoments.
-
Die von dem maschinellen Lernagenten 2 während des verstärkenden Lernprozesses ausgeführten Aktionen A (d. h.: Änderungen der Kalibrierungsparameter als „Stellgrößen“ des Kalibrierungsprozesses) werden abhängig von den sich dadurch einstellenden Zuständen S des elektrischen Antriebsstrangs 3 als positiv, neutral oder negativ bewertet, so dass der Lernagent 2 entsprechend positive (zum Beispiel R = +1), neutrale (zum Beispiel R = 0) oder auch negative Belohnungen (zum Beispiel R = -1) erhält.
-
Der maschinelle Lernagent 2 ist dazu ausgebildet, seine Strategie („Policy“) selbständig derart zu ändern, dass seine zukünftig nach der Durchführung der Aktionen A zu erwartenden Belohnungen R maximiert werden. Der maschinelle Lernagent 2 interagiert bei der Durchführung des Verfahrens so lange mit dem elektrischen Antriebsstrang 3 und führt dabei die Lernverstärkungsfunktion aus, bis die Kalibrierungsaufgabe gelöst ist.
-
Bei dem hier vorgestellten Verfahren ist es in vorteilhafter Weise nicht mehr notwendig, dass der Nutzer den maschinellen Lernagenten 2 selbst kodiert beziehungsweise programmiert. Der bei dem Verfahren verwendete Transformer 1 bildet dabei eine sehr einfach und intuitiv verwendbare Mensch-Maschine-Schnittstelle zwischen dem maschinellen Lernagenten 2 und dem Nutzer und trägt somit dazu bei, den Kalibrierungsprozess des elektrischen Antriebsstrangs 3 erheblich zu vereinfachen.