Die einen finden sie faszinierend, andere sind direkt an ihrer Weiterentwicklung beteiligt und dritten bereitet sie ein flaues Gefühl im Magen: Die Rede ist von künstlicher Intelligenz, kurz KI. Obwohl die Technologie bereits vielerorts Anwendung findet und ein unglaublich großes Potenzial birgt, sorgt sie nicht ausschließlich für Begeisterung. Vor allem die KI Sicherheit wird von vielen Menschen – Laien wie Experten – als Problem empfunden. Wir klären auf und widmen uns nachfolgend fünf zentralen Fakten zur KI Sicherheit.
PDF-Service: Unsere Berichte sind oft sehr ausführlich. Daher bieten wir an dieser Stelle eine Zusendung des Artikels im PDF-Format zur späteren Sichtung an. Nutzen Sie das Angebot um sich die Praxis-Impulse in Ruhe durchzulesen, Sie können hierfür auch einfach auf das PDF-Symbol klicken.
#1: Umfrage ergibt sieben Hauptprobleme für KIs und die KI-Sicherheit
Zunächst lohnt es sich, einen Blick auf eine Umfrage zu werfen, die 2018 aus einer Kooperation von BlackBerry Cylance und dem SANS Institute hervorging. Im Rahmen der Umfrage wurden insgesamt 260 Experten auf dem Gebiet der Cybersicherheit befragt, die letztendlich sieben Hauptprobleme der Technologie identifizierten:
- Unvernünftiges Verlassen auf einen einzigen KI-Master-Algorithmus
- Negativer Einfluss auf die Privatsphäre
- Mangelndes Verständnis bezüglich der Grenzen eines Algorithmus
- Unpassende Trainingssituationen
- Mangelhaft geschützte Daten und Metadaten
- Fehlende Transparenz in Bezug auf die Entscheidungsmethoden der Algorithmen
- Falsch eingesetzte Algorithmen
#2: Studie des BSI und des ANSSI zur KI Sicherheit kommt zu bedenklichem Ergebnis
Interessant ist zudem eine Studie, die vom BSI (Bundesamt für Sicherheit in der Informationstechnik) und dem französischen ANSSI (Agence nationale de la sécurité des systèmes d’information) durchgeführt wurde.
Das Ergebnis: Die Datenbasis von neuronalen Netzen sowie der Dateninput seien stark verwundbar und es ergeben sich Verlässlichkeitsprobleme, die potenziell gefährliche Folgen nach sich ziehen könnten. Die Fehlbarkeit der künstlichen Intelligenz dürfe nicht unterschätzt werden und sollte – vor allem im Hinblick auf den Einsatz von KI in kritischen Aufgabenfeldern, wie beim autonomen Fahren oder bei der medizinischen Diagnosefindung – als reale Gefahr erkannt werden.
#3: „Data Poisoning“ gilt als große Bedrohung der KI Sicherheit
Der Begriff „Data Poisoning“ wird immer populärer – doch was genau verbirgt sich eigentlich dahinter? Vereinfacht dargestellt handelt es sich dabei um das absichtliche Füttern des Machine Learning Systems mit falschen Daten, wodurch die gesamte Umgebung verfälscht wird. Eine klare Bedrohung für die KI Sicherheit und für die Verlässlichkeit vermeintlich „sicherer“, selbstlernender KI Anwendungen.
#4: Experten stufen GAN Trend als gefährlich ein
Ein weiteres Thema, das hinsichtlich der KI Sicherheit nicht verschwiegen werden darf, bezieht sich auf Generative Adversarial Networks, kurz GAN. Ins Deutsche übersetzt steht dieser Trend für „erzeugende, gegnerische Netzwerke“. Hier arbeiten zwei neuronale Netzwerke als Gegenspieler: Es werden Trainingsdaten herangezogen, aus denen das eine Netz einen Kandidaten kreiert, der dann durch das zweite Netz – den sogenannten Diskriminator – akzeptiert oder verworfen wird. Diese Technologie wird von vielen Experten als gefährlich angesehen, da sie das Potenzial besitzt, schädliche Instrumente oder gar Waffen aus neuronalen Netzen zu machen.
#5: Vertrauen in die KI Sicherheit muss wiedergewonnen werden
Lässt man den Blick durch die Bevölkerung schweifen, wird ersichtlich, dass das Vertrauen in KIs und die KI Sicherheit an vielen Stellen nahezu vollkommen verloren gegangen ist. Der Ursprung des Misstrauens ist zum einen in fehlendem Wissen begründet, zum anderen aber auch in einem umfangreichen Wissen in Bezug auf die potenziellen Gefahren von künstlicher Intelligenz. Wenn die Zukunft ein deutliches Plus an KI Anwendungen im unternehmerischen Kontext, aber auch im privaten Alltag bringen soll, muss demnach einiges an Aufklärungsarbeit geleistet, an der KI Sicherheit und den Problemen gearbeitet werden.
