DEXMAN: Verbesserte Manipulationsfähigkeiten von Robotern durch Lernen steifigkeitsbasierter Handsteuerung nach dem Vorbild des Menschen und visuo-taktile Exploration
Bild- und Sprachverarbeitung, Computergraphik und Visualisierung, Human Computer Interaction, Ubiquitous und Wearable Computing
Zusammenfassung der Projektergebnisse
Die Robotiker haben enorme Anstrengungen unternommen, um die menschliche Hand nachzuahmen, nicht nur in Bezug auf die Form, sondern auch hinsichtlich der Funktionalitäten. Die robuste Erfassung und Manipulation eines unbekannten Objekts/Werkzeugs stellt jedoch immer noch eine offene Frage dar, die gründlich gelöst werden muss. Dies motiviert das vorliegende Projekt. Wir werden einen auf der Extraktion menschlicher motorischer Fähigkeiten basierenden Ansatz untersuchen, um eine robuste, geschickte Greif- und In-Hand-Manipulation an einem robotischen Arm/Hand-System zu erreichen. • Ein neuartiges Rahmenwerk von erweiterten dynamischen Bewegungsprimitiven (DMPs), das Wahrnehmungsinformationen für die Extraktion und Verallgemeinerung menschlicher Fähigkeiten einbettet. • Rekonstruktion und Verfolgung eines unbekannten Objekts durch Ausnutzung interaktiver Manipulation und multimodales Feedback. • Mehrfache Sensorfusion basierend auf adaptiver Greif- und Manipulationssteuerung, verbessert durch die Extraktion menschlicher motorischer Fähigkeiten. Wir haben die Manipulationsfähigkeiten des Menschen durch externe Erfassungsmodalitäten (Vision und Kraft/Drehmoment) im Kontext des Lernens durch Demonstration (LfD) mit modernsten maschinellen Lernansätzen dargestellt. Diese Demonstrationen umfassten komplexe Szenarien der Mensch-Roboter-Interaktion (HRI) von physischer HRI bis hin zur Schulung des Roboters für komplexe Manipulationsaufgaben. Solche Darstellungen dienten als flexible Komponenten und wurden in den folgenden robotischen Manipulationsaufgaben verwendet, wie sie auch im Projekt demonstriert wurden. Um das Problem der Sichtbehinderung zu bewältigen, schlugen wir einen multi-kamera-basierten Ansatz zur Datenfusion vor, um die Szene hinter dem verdeckten Objekt zu "beobachten", und kümmerten uns auch um das Verfolgen der Objektposition mittels eines taktilbasierten Filteransatzes. Wir bauten auf unserer früheren Arbeit im Bereich taktiles Servieren auf und erweiterten sie auf die Koordination von Roboterarm und -hand, um verschiedene Objekte zu greifen. Darüber hinaus trugen wir durch maschinelles Lernen und adaptive Kraftregelung zur Teleoperation einer mehrfingerigen Roboterhand für komplexe Manipulationen bei. Das gesamte Projekt hat den Stand der Technik in Bezug auf die robotische Geschicklichkeit durch die Ausnutzung von multimodalem Feedback, Lernfähigkeiten und adaptiver Steuerung vorangetrieben.
Projektbezogene Publikationen (Auswahl)
-
A Review of Tactile Information: Perception and Action Through Touch. IEEE Transactions on Robotics, 36(6), 1619-1634.
Li, Qiang; Kroemer, Oliver; Su, Zhe; Veiga, Filipe Fernandes; Kaboli, Mohsen & Ritter, Helge Joachim
-
Intent inference in shared-control teleoperation system in consideration of user behavior. Complex & Intelligent Systems, 8(4), 2971-2981.
Wang, Liangliang; Li, Qiang; Lam, James; Wang, Zheng & Zhang, Zhengyou
-
Learning compliant grasping and manipulation by teleoperation with adaptive force control. 2021 IEEE/RSJ International Conference on Intelligent Robots and Systems (IROS), 717-724. IEEE.
Zeng, Chao; Li, Shuang; Jiang, Yiming; Li, Qiang; Chen, Zhaopeng; Yang, Chenguang & Zhang, Jianwei
-
Learning Optimal Impedance Control During Complex 3D Arm Movements. IEEE Robotics and Automation Letters, 6(2), 1248-1255.
Naceri, Abdeldjallil; Schumacher, Tobias; Li, Qiang; Calinon, Sylvain & Ritter, Helge
-
Multi-View Merging for Robot Teleoperation With Virtual Reality. IEEE Robotics and Automation Letters, 6(4), 8537-8544.
Wei, Dong; Huang, Bidan & Li, Qiang
-
Robot Learning Human Skills and Intelligent Control Design. CRC Press.
Yang, Chenguang; Zeng, Chao & Zhang, Jianwei
-
Simultaneously Encoding Movement and sEMG-Based Stiffness for Robotic Skill Learning. IEEE Transactions on Industrial Informatics, 17(2), 1244-1252.
Zeng, Chao; Yang, Chenguang; Cheng, Hong; Li, Yanan & Dai, Shi-Lu
-
"Tactile Sensing, Skill Learning and Robotic Dexterous Manipulation", Elsevier, 2, April,2022, eBook ISBN: 9780323904179
Qiang Li; Shan Luo; Zhaopeng Chen; Chenguang Yang & Jianwei Zhang
-
"Tactile servoing" IROS2022 Tutorial
Qiang Li & Nathan Lepora
-
Editorial: Biological-Inspired Autonomous Mobile Manipulation: Challenges in Design, Control, and Real-World Applications. Frontiers in Neurorobotics, 16.
Bing, Zhenshan; Chen, Fei; Li, Rui; Zhong, Junpei & Li, Qiang
-
Explainable Hierarchical Imitation Learning for Robotic Drink Pouring. IEEE Transactions on Automation Science and Engineering, 19(4), 3871-3887.
Zhang, Dandan; Li, Qiang; Zheng, Yu; Wei, Lei; Zhang, Dongsheng & Zhang, Zhengyou
-
Generalization of Robot Force-Relevant Skills Through Adapting Compliant Profiles. IEEE Robotics and Automation Letters, 7(2), 1055-1062.
Zeng, Chao; Li, Shuang; Fang, Bin; Chen, Zhaopeng & Zhang, Jianwei
-
Guest editorial: Dexterous manipulation. Industrial Robot: the international journal of robotics research and application, 49(4), 601-602.
Fang, Bin; Li, Qiang; Chen, Fei & Wan, Weiwei
-
Improving Object Grasp Performance via Transformer-Based Sparse Shape Completion. Journal of Intelligent & Robotic Systems, 104(3).
Chen, Wenkai; Liang, Hongzhuo; Chen, Zhaopeng; Sun, Fuchun & Zhang, Jianwei
-
Multi-fingered Tactile Servoing for Grasping Adjustment under Partial Observation. 2022 IEEE/RSJ International Conference on Intelligent Robots and Systems (IROS). IEEE.
Liu, Hanzhong; Huang, Bidan; Li, Qiang; Zheng, Yu; Ling, Yonggen; Lee, Wangwei; Liu, Yi; Tsai, Ya-Yen & Yang, Chenguang
-
Robotic dexterous manipulation: from tele-operation to autonomous learning and adaptive control. Complex & Intelligent Systems, 8(4), 2809-2811.
Li, Qiang; Liu, Chao; Yang, Chenguang; Chen, Fei & Ritter, Helge
-
Editorial: Advanced learning control in physical interaction tasks. Frontiers in Robotics and AI, 10.
Zeng, Chao; Guo, Jing; Li, Qiang & Yang, Chenguang
-
Tactile-Based Object Pose Estimation Employing Extended Kalman Filter. 2023 International Conference on Advanced Robotics and Mechatronics (ICARM), 118-123. IEEE.
Lin, Qiguang; Yan, Chaojie; Li, Qiang; Ling, Yonggen; Zheng, Yu; Lee, Wangwei; Wan, Zhaoliang; Huang, Bidan & Liu, Xiaofeng
