Verifikation und Sicherheit für Neuronale Netze und Machine Learning

Im Machine learningMachine learning spielen neuronale NetzeNeuronale Netze nach dem Vorbild des menschlichen Gehirns eine dominante Rolle. Der Durchbruch der KI-Forschung in der Praxis hängt wesentlich mit der Fähigkeit neuronaler Netze zusammen, große Datenmengen (Big Data) z. B. bei der MustererkennungMustererkennung, beim Autonomen Fahrenautonomen Fahren, in der Robotik und in Industrie 4.0 mit effektiven LernalgorithmenLernalgorithmen anzuwenden. Obwohl die technische Zivilisation zunehmend von diesen KI-Algorithmen abhängt, sind sie mit erheblichen Sicherheitsrisiken verbunden. Praktische Anwendungen erfordern Tausende von Neuronen und Synapsen in mehrschichtigen neuronalen Netzen (deep learningDeep learning), die statistisch nur mit endlich vielen Datensätzen von Inputs und Outputs trainiert werden: Man setzt auf die statistischen Erwahrtungswahrscheinlichkeiten von gewünschten Outputs (z. B. Bewegungsverhalten von Robotern, Automobilen und Flugzeugen), die durch geeignete Trainingsdaten erreicht werden sollen. Niemand durchschaut aber bzw. kann im Einzelnen kontrollieren, was in den nicht linearen Wechselwirkungen der Neuronen und Synapsen zwischen Inputs und Outputs abläuft. Daher sind diese neuronalen Netze für Anwender und Entwickler „Schwarzen Kästen“ (Black BoxesBlack Boxes), die grundlegende Fragen der Sicherheit, des Vertrauens in Technik und der Verantwortung aufwerfen. Dieser Artikel erklärt neuartige Verifikationsverfahren, mit denen Sicherheitsstandards von neuronalen Netzen berechnet und garantiert werden können (Xiang et al. 2018). Bemerkenswert ist, dass diese Verifikationsverfahren aus der Logisch-mathematischen Grundlagenforschunglogisch-mathematischen Grundlagenforschung abgeleitet sind. Sie unterstreichen deshalb noch einmal (wie häufig in diesem Handbuch), dass Fragen der Sicherheit, EthikEthik und Verantwortung nicht von der Grundlagenforschung und Erkenntnistheorie getrennt werden können.