Verbesserung der Zuverlässigkeit und Robustheit von RRAM-basiertem neuromorphen Computing

• Antragstellerinnen / Antragsteller: Professor Dr.-Ing. Ulf Schlichtmann, seit 11/2024; Professorin Dr.-Ing. Li Zhang
• Fachliche Zuordnung: Rechnerarchitektur, eingebettete und massiv parallele Systeme ; Bild- und Sprachverarbeitung, Computergraphik und Visualisierung, Human Computer Interaction, Ubiquitous und Wearable Computing ; Elektronische Halbleiter, Bauelemente und Schaltungen, Integrierte Systeme, Sensorik, Theoretische Elektrotechnik
• Förderung: Förderung seit 2021
• Projektkennung: Deutsche Forschungsgemeinschaft (DFG) - Projektnummer 457473137

Deep Neural Networks (DNNs) werden erfolgreich eingesetzt, um anspruchsvolle Aufgaben in verschiedenen Bereichen, z. B. Sprach- und Bildverarbeitung, zu lösen. In einem DNN sind sehr viele MAC-Operationen (Multiply-Accumulate) durchzuführen. Die Beschleunigung solcher Operationen mittels RRAM-basierten Crossbars weist ausgeprägtes Potenzial auf, Leistung und Energieeffizienz eines DNN deutlich zu verbessern, da hier die MAC-Operationen unter Nutzung der Gesetze von Ohm und Kirchhoff analog realisiert werden. Genau deshalb wird ein RRAM-basierter Crossbar jedoch stark von Prozessschwankungen, Rauschen, nicht-idealen Eigenschaften der Bauelemente und derer Programmierung usw. beeinflusst. Diese Einflüsse verschlechtern folglich die Rechengenauigkeit erheblich, sofern die Crossbars nicht robust dagegen sind. Angesichts ihres großen Potenzials werden RRAM-basierte Crossbars seit einigen Jahren intensiv erforscht. Jedoch sind ihre Robustheit und Zuverlässigkeit noch nicht systematisch betrachtet worden. Daher stellen wir in diesem Projekt ein umfassendes Konzept zur Analyse sowie Behebung dieser Probleme vor. Konkret schlagen wir verschiedene Techniken wie komplementäre Hardware-Redundanz oder Optimierung der DNN-Architektur vor. Im Einzelnen werden wir zunächst die Variationen von einzelnen RRAM-Zellen sowie kompletten Crossbars statistisch modellieren. Diese Modellierung integrieren wir anschließend in eine statistische Trainings- und Inferenz-Engine. Mit dieser Engine können wir Techniken wie Fehlerkorrektur und Filtererweiterung auf gegebene DNN-Architekturen anwenden, um deren Robustheit zu verbessern. Zuverlässigkeitsprobleme wie Alterung und thermische Effekte werden proaktiv durch Umverteilung und Ausgleich von Gewichten des DNN begegnet. Darüber hinaus wird das Konzept der komplementären Hardware-Redundanz eingeführt und untersucht, um mit einem Co-Design-Ansatz das RRAM-basierte Computersystem zu verbessern. Eine Simulationsplattform verifiziert das resultierende System. Diese Simulationsplattform ermöglicht auch eine „Corner-basierte“ Sign-Off-Simulation zur Zertifizierung des gesamten Systems.Die vorgeschlagene systematische Lösung zur Sicherstellung von Robustheit und Zuverlässigkeit beim analogen neuromorphen Rechnen ist über die konkret betrachteten Crossbar-Architekturen hinaus auch für weitere neuromorphe Computersysteme einsetzbar, die z. B. auf SRAM, Flash und Spintronics basieren.

• DFG-Verfahren: Sachbeihilfen
• Ehemaliger Antragsteller: Professor Dr.-Ing. Bing Li, bis 11/2024