Leistungseffiziente tiefe neuronale Netze basierend auf Co-Optimierung mit mixed-signal integrierten Schaltungen

• Antragsteller: Professor Dr. Vasileios Belagiannis; Professor Dr.-Ing. Maurits Ortmanns
• Fachliche Zuordnung: Elektronische Halbleiter, Bauelemente und Schaltungen, Integrierte Systeme, Sensorik, Theoretische Elektrotechnik
• Förderung: Förderung seit 2022
• Projektkennung: Deutsche Forschungsgemeinschaft (DFG) - Projektnummer 493129587

EdgeAI ist das verteilte Rechenparadigma für die Ausführung von Algorithmen für maschinelles Lernen Nahe am Sensor. Im Vergleich zu zentralisierten, z.B. cloud-basierten Lösungen, werden Datensicherheit, geringe Latenz und Bandbreitenreduktion erreicht. Gleichzeitig gibt es das große Problem, dass der Leistungsverbrauch heutiger, tiefer neuronaler Netze für maschinelles Lernen für solche Anwendungen viel zu groß ist. Moderne Netzwerkarchitekturen sind komplex und stellen hohe Anforderungen an die Rechenressourcen. Folglich ist die Ausführung tiefer neuronaler Netzwerke auf Edge-Geräten nicht Stand der Technik. Um dieses Problem anzugehen, müssen die Netzwerkarchitekturen unter Berücksichtigung der Speicher-, Gleitkommaoperationen und Parameterdiskretisierungsfaktoren neu entworfen werden. Dieser Prozess wird als neuronale Netzwerkkomprimierung bezeichnet. Außerdem muss die ausführende Hardware dem angepasst werden, um einen effizienten Betrieb des neuronalen Netzwerks zu gewährleisten. Insbesondere können spezielle Beschleunigerschaltungen auf Basis integrierter Schaltungen Lösungen in Bezug auf die Speicherhierarchie bereitstellen und eine Rechenschaltung mit anpassbarer Präzision bei mittlerer Genauigkeit nutzen, um den Stromverbrauch massiv zu senken. Dieses Projekt zielt darauf ab, neue Mixed-Signal-Schaltungen und -Architekturen mit einer zur Laufzeit einstellbaren Rechengenauigkeit sowie den Entwurf und das Training eines Hardware-angepassten neuronalen Netzwerks mit Hybridgenauigkeit auf dieser Hardware zu erforschen. Im Kontext der benutzerdefinierten Hardware wird die Komprimierung neuronaler Netzwerke als Co-Design- und Co-Training-Aufgabe untersucht, bei der die Hardware Teil der Optimierung ist.

• DFG-Verfahren: Sachbeihilfen