KI Sicherheit – 5 Fakten zur Sicherheit von künstlicher Intelligenz

KI Sicherheit

Die einen finden sie faszinierend, andere sind direkt an ihrer Weiterentwicklung beteiligt und dritten bereitet sie ein flaues Gefühl im Magen: Die Rede ist von künstlicher Intelligenz, kurz KI. Obwohl die Technologie bereits vielerorts Anwendung findet und ein unglaublich großes Potenzial birgt, sorgt sie nicht ausschließlich für Begeisterung. Vor allem die KI Sicherheit wird von vielen Menschen – Laien wie Experten – als Problem empfunden. Wir klären auf und widmen uns nachfolgend fünf zentralen Fakten zur KI Sicherheit.

PDF-Angebot DVGPDF-Service: Unsere Berichte sind oft sehr ausführlich. Daher bieten wir an dieser Stelle eine Zusendung des Artikels im PDF-Format zur späteren Sichtung an. Nutzen Sie das Angebot um sich die Praxis-Impulse in Ruhe durchzulesen, Sie können hierfür auch einfach auf das PDF-Symbol klicken.

#1: Umfrage ergibt sieben Hauptprobleme für KIs und die KI-Sicherheit

KI Sicherheit ProblemeZunächst lohnt es sich, einen Blick auf eine Umfrage zu werfen, die 2018 aus einer Kooperation von BlackBerry Cylance und dem SANS Institute hervorging. Im Rahmen der Umfrage wurden insgesamt 260 Experten auf dem Gebiet der Cybersicherheit befragt, die letztendlich sieben Hauptprobleme der Technologie identifizierten:

 

  • Unvernünftiges Verlassen auf einen einzigen KI-Master-Algorithmus
  • Negativer Einfluss auf die Privatsphäre
  • Mangelndes Verständnis bezüglich der Grenzen eines Algorithmus
  • Unpassende Trainingssituationen
  • Mangelhaft geschützte Daten und Metadaten
  • Fehlende Transparenz in Bezug auf die Entscheidungsmethoden der Algorithmen
  • Falsch eingesetzte Algorithmen

#2: Studie des BSI und des ANSSI zur KI Sicherheit kommt zu bedenklichem Ergebnis

Interessant ist zudem eine Studie, die vom BSI (Bundesamt für Sicherheit in der Informationstechnik) und dem französischen ANSSI (Agence nationale de la sécurité des systèmes d’information) durchgeführt wurde.

Das Ergebnis: Die Datenbasis von neuronalen Netzen sowie der Dateninput seien stark verwundbar und es ergeben sich Verlässlichkeitsprobleme, die potenziell gefährliche Folgen nach sich ziehen könnten. Die Fehlbarkeit der künstlichen Intelligenz dürfe nicht unterschätzt werden und sollte – vor allem im Hinblick auf den Einsatz von KI in kritischen Aufgabenfeldern, wie beim autonomen Fahren oder bei der medizinischen Diagnosefindung – als reale Gefahr erkannt werden.

#3: „Data Poisoning“ gilt als große Bedrohung der KI Sicherheit

Der Begriff „Data Poisoning“ wird immer populärer – doch was genau verbirgt sich eigentlich dahinter? Vereinfacht dargestellt handelt es sich dabei um das absichtliche Füttern des Machine Learning Systems mit falschen Daten, wodurch die gesamte Umgebung verfälscht wird. Eine klare Bedrohung für die KI Sicherheit und für die Verlässlichkeit vermeintlich „sicherer“, selbstlernender KI Anwendungen.

PDF-Angebot DVGPDF-Service: Unsere Berichte sind oft sehr ausführlich. Daher bieten wir an dieser Stelle eine Zusendung des Artikels im PDF-Format zur späteren Sichtung an. Nutzen Sie das Angebot um sich die Praxis-Impulse in Ruhe durchzulesen, Sie können hierfür auch einfach auf das PDF-Symbol klicken.

#4: Experten stufen GAN Trend als gefährlich ein

KI Sicherheit GANEin weiteres Thema, das hinsichtlich der KI Sicherheit nicht verschwiegen werden darf, bezieht sich auf Generative Adversarial Networks, kurz GAN. Ins Deutsche übersetzt steht dieser Trend für „erzeugende, gegnerische Netzwerke“. Hier arbeiten zwei neuronale Netzwerke als Gegenspieler: Es werden Trainingsdaten herangezogen, aus denen das eine Netz einen Kandidaten kreiert, der dann durch das zweite Netz – den sogenannten Diskriminator – akzeptiert oder verworfen wird. Diese Technologie wird von vielen Experten als gefährlich angesehen, da sie das Potenzial besitzt, schädliche Instrumente oder gar Waffen aus neuronalen Netzen zu machen.

#5: Vertrauen in die KI Sicherheit muss wiedergewonnen werden

Lässt man den Blick durch die Bevölkerung schweifen, wird ersichtlich, dass das Vertrauen in KIs und die KI Sicherheit an vielen Stellen nahezu vollkommen verloren gegangen ist. Der Ursprung des Misstrauens ist zum einen in fehlendem Wissen begründet, zum anderen aber auch in einem umfangreichen Wissen in Bezug auf die potenziellen Gefahren von künstlicher Intelligenz. Wenn die Zukunft ein deutliches Plus an KI Anwendungen im unternehmerischen Kontext, aber auch im privaten Alltag bringen soll, muss demnach einiges an Aufklärungsarbeit geleistet, an der KI Sicherheit und den Problemen gearbeitet werden.

Nutzen Sie unsere Experten in unserem Netzwerk für KI Sicherheit

Unsere Portalinformationen liefern Mehrwerte, sind jedoch nur vergleichbar mit der Spitze eines Eisbergs. Unser Logo hat eine Doppelbedeutung und steht für Vertrauensvolle Vernetzung. Seit 2006 begegnen wir Menschen aus unseren Online-Foren persönlich und filtern Mehrwertinformationen von Marktinginformationen. Wir sind hersteller- und produktunabhängig und freuen uns, dass Anwender gerne eine zweite Meinung bei uns einholen. Ebenso vernetzen wir von Anwender zu Anwender oder von Anwender zu Experte und bieten Ihnen die Möglichkeit an, auf unsere nicht öffentliche Best- und Bad-Practice Datenbank zurückzugreifen, indem Sie mit uns Kontaktaufnehmen.

Sie suchen einen Experten zu diesem Thema?

Gerne vermitteln wir Sie, einfach das untere Kontaktformular ausfüllen:


Schnelle Expertenanfrage

Vor- und Nachname (Pflichtfeld)

Ihre Email (Pflichtfeld)

DSGVO-Pflichtfeld: Ich willige ein, dass bei der Kontaktaufnahme über dieses Internetformular, meine Angaben zwecks Bearbeitung der Anfrage sowie für den Fall, dass Anschlussfragen entstehen, gespeichert werden.

Freiwillige Datenfreigabe zur besseren Vernetzung unserer Mitglieder im Netzwerk/Forum (Einzelfallbezogen, nicht öffentlich). Ich willige ein, dass meine Daten, in Ihrem Netzwerk vertraulich und kontextbezogen genutzt werden können. Ohne diese Datenfreigabe kontaktiert Sie, wenn überhaupt, nur das IT-Wegweiser Team.

Freiwillige Angaben:

Firmenname

Branche

Funktion

Straße und Hausnummer

PLZ/Ort

Kontaktrufnummer

Ihre Anfrage oder Ihr Status Quo zu diesem Thema:

Kostenloser Informationsservice it-wegweiser (value-letter)

Sollten Sie sie eine ältere Version Ihres Internet-Browsers nutzen, kann es zu Schwierigkeiten beim ausfüllen des Anmeldeformulares kommen. Sie können uns in diesem Fall auch per Mail erreichen: info@it-wegweiser.de

Die Cookie-Einstellungen auf dieser Website sind auf "Cookies blockieren" eingestellt. Um das beste Surferlebnis zu ermöglichen, klicken Sie auf "Akzeptieren". Auf der Seite <a href=" https://it-wegweiser.de/datenschutzerklaerung#cookie-optout/">Datenschutz</a> können Sie Ihre Entscheidung jederzeit widerrufen. Weitere Informationen

Die Cookie-Einstellungen auf dieser Website sind auf "Cookies zulassen" eingestellt, um das beste Surferlebnis zu ermöglichen. Wenn du diese Website ohne Änderung der Cookie-Einstellungen verwendest oder auf "Akzeptieren" klickst, erklärst du sich damit einverstanden.

Schließen