Skip to content
Licensed Unlicensed Requires Authentication Published by De Gruyter (O) November 30, 2019

Detektion von Anomalien zur Qualitätssicherung basierend auf Sequence-to-Sequence LSTM Netzen

Anomaly detection for quality control based on sequence-to-sequence LSTM networks
Benjamin Lindemann

ist wissenschaftlicher Mitarbeiter am Institut für Automatisierungstechnik und Softwaresysteme (IAS) der Universität Stuttgart. Hauptarbeitsgebiete: Rekurrente Neuronale Netze zur Qualitätssicherung in der Automatisierungstechnik.

EMAIL logo
, Nasser Jazdi

ist akademischer Oberrat am IAS der Universität Stuttgart. Hauptarbeitsgebiete: Dynamische Berechnung der Zuverlässigkeit automatisierter Systeme, Intelligenz in der Automatisierungstechnik.

and Michael Weyrich

ist Institutsleiter des IAS der Universität Stuttgart. Hauptarbeitsgebiete: Intelligenz in der Automatisierungstechnik, Autonome Systeme, Absicherung von Automatisierungstechnik, Cyber-Physische Produktionssysteme.

Zusammenfassung

Unvorhersehbare Prozessereignisse und Anomalien sind Treiber erhöhter Ineffizienzen in Form von schwankender Produktqualität. In diesem Beitrag wird ein datengetriebener Ansatz zur Qualitätsoptimierung vorgestellt, auf dessen Basis Anomalien charakterisiert werden, die zur Entwurfszeit des Systems nicht bekannt waren. Es wird eine Netzarchitektur in Form eines Sequence-to-Sequence Netzes mit Long Short-Term Memory (LSTM) Zellen vorgestellt. Dadurch kann vorhergesagt werden, welche Anpassung am Stellgrößenverhalten vorgenommen werden muss, um erwartete Anomalien zu kompensieren. Dadurch wird das Qualitätsergebnis langfristig in der Toleranz gehalten. Der Ansatz wird prototypisch anhand von zwei Prozessketten der diskreten Fertigung umgesetzt und evaluiert.

Abstract

Unforeseeable process events and anomalies are drivers of increased inefficiencies in terms of fluctuating product quality. This paper presents a data-driven approach for quality optimization that is used to characterize anomalies being unknown at the time the system was designed. A network architecture based on a sequence-to-sequence network with Long Short-Term Memory (LSTM) cells is presented. Thus, it can be predicted which adaptation of the actuating variables has to be carried out in order to compensate expected anomalies. This keeps the quality result within tolerance. The approach is prototypically implemented and evaluated on the basis of two process chains of discrete manufacturing.

About the authors

Benjamin Lindemann

ist wissenschaftlicher Mitarbeiter am Institut für Automatisierungstechnik und Softwaresysteme (IAS) der Universität Stuttgart. Hauptarbeitsgebiete: Rekurrente Neuronale Netze zur Qualitätssicherung in der Automatisierungstechnik.

Nasser Jazdi

ist akademischer Oberrat am IAS der Universität Stuttgart. Hauptarbeitsgebiete: Dynamische Berechnung der Zuverlässigkeit automatisierter Systeme, Intelligenz in der Automatisierungstechnik.

Michael Weyrich

ist Institutsleiter des IAS der Universität Stuttgart. Hauptarbeitsgebiete: Intelligenz in der Automatisierungstechnik, Autonome Systeme, Absicherung von Automatisierungstechnik, Cyber-Physische Produktionssysteme.

Literatur

1. K. B. Lee, S. Cheon and O. K. Chang: A convolutional neural network for fault classification and diagnosis in semiconductor manufacturing processes. In: IEEE Transactions of Semiconductor Manufacturing (2017) vol. 30, S. 135–142.10.1109/TSM.2017.2676245Search in Google Scholar

2. T. Wang, H. Gao and J. Qiu: A Combined Adaptive Neural Network and Nonlinear Model Predictive Control for Multirate Networked Industrial Process Control. In: IEEE Transactions on Neural Networks and Learning Systems (2016) vol. 27, S. 416–425.10.1109/TNNLS.2015.2411671Search in Google Scholar

3. B. Lindemann, C. Karadogan, N. Jazdi, M. Liewald and M. Weyrich: Cloud-based Control Approach in Discrete Manufacturing Using a Self-Learning Architecture. In: 3rd IFAC Conference on Embedded Systems, Computational Intelligence and Telematics in Control (2018) vol. 51, Issue 10, S. 163–168.Search in Google Scholar

4. M. Rau: Nichtlineare modellbasierte prädiktive Regelung auf Basis lernfähiger Zustandsraummodelle. Doktorarbeit, Technische Universität München 2003.Search in Google Scholar

5. D. Schröder and M. Buss: Intelligente Verfahren – Identifikation and Regelung nichtlinearer Systeme, S. 93, 2. erweiterte Auflage. Springer Verlag, Berlin, 2017.10.1007/978-3-662-55327-5_13Search in Google Scholar

6. T. Krüger, P. Schnetter, R. Placzek and P. Vörsmann: Fault-Tolerant Nonlinear Adaptive Flight Control Using Sliding Mode Online Learning. In: Neural Networks (2012) vol. 32, S. 267–274.10.1016/j.neunet.2012.02.025Search in Google Scholar

7. S. He, K. Reif and R. Unbehauen: Multilayer neural networks for solving a class of partial differential equations. In: Neural Networks (2000) vol. 13, S. 385–396.10.1016/S0893-6080(00)00013-7Search in Google Scholar

8. S. Hochreiter and J. Schmidhuber: Long Short-Term Memory. In: Neural Computation (1997) vol. 8, S. 1735–1780.10.1162/neco.1997.9.8.1735Search in Google Scholar PubMed

9. I. Sutskever, O. Vinyals and Q. V. Le: Sequence to Sequence Learning with Neural Networks. In: Advances in Neural Information Processing Systems (2014) S. 3104–3112.Search in Google Scholar

10. C. Feng, T. Li and D. Chana: Multi-level anomaly detection in industrial control systems via package signatures and lstm networks. In: 47th Annual IEEE/IFIP International Conference on Dependable Systems and Networks (2017) S. 261–272.Search in Google Scholar

11. A. Taylor, S. Leblanc and N. Japkowicz: Anomaly detection in automobile control network data with long short-term memory networks. In: IEEE International Conference on Data Science and Advanced Analytics (2016) S. 130–139.Search in Google Scholar

12. B. Lindemann, F. Fesenmayr, N. Jazdi and M. Weyrich: Anomaly Detection in Discrete Manufacturing Using Self-Learning Approaches. In: 12th CIRP Conference on Intelligent Computation in Manufacturing Engineering (2018) vol. 79, S. 313–318.Search in Google Scholar

13. J. Tonne: Robust model predictive control for large-scale manufacturing systems subject to uncertainties. Doktorarbeit, Universität Kassel, 2017. S. 39.Search in Google Scholar

14. B. Endelt and W. Volk: Designing and iterative learning control algorithm based on process history – using limited post process geometrical information. In: International Deep Drawing Research Group annual conference (2013) S. 69–74.Search in Google Scholar

15. P. Groche et al.: Incremental Bulk Metal Forming. In: CIRP Annals – Manufacturing Technology (2007) vol. 56(2) S. 635–656.10.1016/j.cirp.2007.10.006Search in Google Scholar

16. G. L. Plett: Adaptive inverse control of linear and nonlinear systems using dynamical neural networks. In: IEEE Transactions on Neural Networks (2003) vol. 14, S. 360–376.10.1109/TNN.2003.809412Search in Google Scholar PubMed

17. M. Liewald, C. Karadogan, B. Lindemann, N. Jazdi and M. Weyrich: On the tracking of individual workpieces in hot forging plants. In: CIRP Journal of Manufacturing Science and Technology (2018) vol. 22, S. 116–120.10.1016/j.cirpj.2018.04.002Search in Google Scholar

18. D. O. Hebb: The Organization of Behavior – a neuropsychological theory. Wiley, New York, 1949.Search in Google Scholar

Received: 2019-07-05
Accepted: 2019-10-20
Published Online: 2019-11-30
Published in Print: 2019-11-18

© 2019 Walter de Gruyter GmbH, Berlin/Boston

Downloaded on 31.1.2023 from https://www.degruyter.com/document/doi/10.1515/auto-2019-0076/html
Scroll Up Arrow