Die einen finden sie faszinierend, andere sind direkt an ihrer Weiterentwicklung beteiligt und dritten bereitet sie ein flaues Gefühl im Magen: Die Rede ist von künstlicher Intelligenz, kurz KI. Obwohl die Technologie bereits vielerorts Anwendung findet und ein unglaublich großes Potenzial birgt, sorgt sie nicht ausschließlich für Begeisterung. Vor allem die KI Sicherheit wird von vielen Menschen – Laien wie Experten – als Problem empfunden. Wir klären auf und widmen uns nachfolgend fünf zentralen Fakten zur KI Sicherheit.
#1: Umfrage ergibt sieben Hauptprobleme für KIs und die KI-Sicherheit
Zunächst lohnt es sich, einen Blick auf eine Umfrage zu werfen, die 2018 aus einer Kooperation von BlackBerry Cylance und dem SANS Institute hervorging. Im Rahmen der Umfrage wurden insgesamt 260 Experten auf dem Gebiet der Cybersicherheit befragt, die letztendlich sieben Hauptprobleme der Technologie identifizierten:
Unvernünftiges Verlassen auf einen einzigen KI-Master-Algorithmus
Negativer Einfluss auf die Privatsphäre
Mangelndes Verständnis bezüglich der Grenzen eines Algorithmus
Unpassende Trainingssituationen
Mangelhaft geschützte Daten und Metadaten
Fehlende Transparenz in Bezug auf die Entscheidungsmethoden der Algorithmen
Falsch eingesetzte Algorithmen
#2: Studie des BSI und des ANSSI zur KI Sicherheit kommt zu bedenklichem Ergebnis
Interessant ist zudem eine Studie, die vom BSI (Bundesamt für Sicherheit in der Informationstechnik) und dem französischen ANSSI (Agence nationale de la sécurité des systèmes d’information) durchgeführt wurde.
Das Ergebnis: Die Datenbasis von neuronalen Netzen sowie der Dateninput seien stark verwundbar und es ergeben sich Verlässlichkeitsprobleme, die potenziell gefährliche Folgen nach sich ziehen könnten. Die Fehlbarkeit der künstlichen Intelligenz dürfe nicht unterschätzt werden und sollte – vor allem im Hinblick auf den Einsatz von KI in kritischen Aufgabenfeldern, wie beim autonomen Fahren oder bei der medizinischen Diagnosefindung – als reale Gefahr erkannt werden.
#3: „Data Poisoning“ gilt als große Bedrohung der KI Sicherheit
Der Begriff „Data Poisoning“ wird immer populärer – doch was genau verbirgt sich eigentlich dahinter? Vereinfacht dargestellt handelt es sich dabei um das absichtliche Füttern des Machine Learning Systems mit falschen Daten, wodurch die gesamte Umgebung verfälscht wird. Eine klare Bedrohung für die KI Sicherheit und für die Verlässlichkeit vermeintlich „sicherer“, selbstlernender KI Anwendungen.
Ein weiteres Thema, das hinsichtlich der KI Sicherheit nicht verschwiegen werden darf, bezieht sich auf Generative Adversarial Networks, kurz GAN. Ins Deutsche übersetzt steht dieser Trend für „erzeugende, gegnerische Netzwerke“. Hier arbeiten zwei neuronale Netzwerke als Gegenspieler: Es werden Trainingsdaten herangezogen, aus denen das eine Netz einen Kandidaten kreiert, der dann durch das zweite Netz – den sogenannten Diskriminator – akzeptiert oder verworfen wird. Diese Technologie wird von vielen Experten als gefährlich angesehen, da sie das Potenzial besitzt, schädliche Instrumente oder gar Waffen aus neuronalen Netzen zu machen.
#5: Vertrauen in die KI Sicherheit muss wiedergewonnen werden
Lässt man den Blick durch die Bevölkerung schweifen, wird ersichtlich, dass das Vertrauen in KIs und die KI Sicherheit an vielen Stellen nahezu vollkommen verloren gegangen ist. Der Ursprung des Misstrauens ist zum einen in fehlendem Wissen begründet, zum anderen aber auch in einem umfangreichen Wissen in Bezug auf die potenziellen Gefahren von künstlicher Intelligenz. Wenn die Zukunft ein deutliches Plus an KI Anwendungen im unternehmerischen Kontext, aber auch im privaten Alltag bringen soll, muss demnach einiges an Aufklärungsarbeit geleistet, an der KI Sicherheit und den Problemen gearbeitet werden.
Als interaktives Portal bieten wir umfangreiche Funktionen an, welche funktionale Cookies benötigen. Darüber hinaus sind wir Ihnen dankbar, wenn Sie uns die Freigabe der anderen beiden Kategorien Anonyme Statistik und Marketing, mit jeweiligen Klick auf den weißen Knopf im roten Bereich erteilen. Vielen Dank für Ihre Unterstützung.
Funktional
Immer aktiv
Die technische Speicherung oder der Zugang ist unbedingt erforderlich für den rechtmäßigen Zweck, die Nutzung eines bestimmten Dienstes zu ermöglichen, der vom Teilnehmer oder Nutzer ausdrücklich gewünscht wird, oder für den alleinigen Zweck, die Übertragung einer Nachricht über ein elektronisches Kommunikationsnetz durchzuführen.
Vorlieben
Die technische Speicherung oder der Zugriff ist für den rechtmäßigen Zweck der Speicherung von Präferenzen erforderlich, die nicht vom Abonnenten oder Benutzer angefordert wurden.
Statistiken
Die technische Speicherung oder der Zugriff, der ausschließlich zu statistischen Zwecken erfolgt.Die technische Speicherung oder der Zugriff, der ausschließlich zu anonymen statistischen Zwecken verwendet wird. Ohne eine Vorladung, die freiwillige Zustimmung deines Internetdienstanbieters oder zusätzliche Aufzeichnungen von Dritten können die zu diesem Zweck gespeicherten oder abgerufenen Informationen allein in der Regel nicht dazu verwendet werden, dich zu identifizieren.
Marketing
Die technische Speicherung oder der Zugriff ist erforderlich, um Nutzerprofile zu erstellen, um Werbung zu versenden oder um den Nutzer auf einer Website oder über mehrere Websites hinweg zu ähnlichen Marketingzwecken zu verfolgen.