12. Oktober 2018 | pArtikel drucken | kKommentieren

So gerät Künstliche Intelligenz nicht außer Kontrolle

Die Entwicklung von KI-Technologien benötigt Regeln, damit gegenwärtige und zukünftige Programme kein unerwünschtes Verhalten zeigen. Das geht aus einem kürzlich veröffentlichten Paper der KI-Schmiede DeepMind hervor.

Das britische Forschungslabor hat dabei drei Problemfelder identifiziert, um eine sichere Künstliche Intelligenz zu gewährleisten: Spezifikation, Robustheit und Sicherheit (engl. specification, robustness and assurance).

Drei Prinzipien für die Gestaltung von KI

Spezifikation beleuchtet die Frage, was man mit der KI eigentlich erreichen will und wie man diesen Wunsch formuliert. Im Idealfall verhält sich Künstliche Intelligenz ganz nach den Wünschen des Entwicklers und Konzepters (sog. ideale Spezifikation).  Probleme treten dann auf, wenn sich die ideale Spezifikation von der sog. offenbarten Spezifikation (wie die KI letztendlich handelt) unterscheidet. Das Konzept der Spezifikation stellt demnach sicher, dass das Verhalten eines KI-Systems mit den wahren Absichten des Entwicklers übereinstimmt.

Das Prinzip der Robustheit soll dafür bürgen, dass Künstliche Intelligenz auch bei Störungen innerhalb sicherer Grenzen funktioniert. Störungen umfassen dabei unvorhergesehene Ereignisse und manipulative Angriffe, die von außen auf das KI-System einwirken.

Zudem soll das Konzept der Sicherheit garantieren, dass der Mensch zu jedem Zeitpunkt im laufenden Betrieb das KI-System verstehen und kontrollieren kann. Damit soll jede Handlung eines KI-Agenten nachvollziehbar sein und im Eskalationsfall auch unterbrochen werden können.

Die Forscher räumen zwar ein, dass solche Sicherheitsbedenken in der heutigen Zeit vielleicht verfrüht kommen, appellieren aber an die Zukunft. Sie führen als Beispiel an, wenn Programmiersprachen der ersten Stunde mit ähnlichen Sicherheitsprinzipien entwickelt worden wären, hätte Computersicherheit heutzutage eine viel stärkere Position.

Wie kann man Künstliche Intelligenz kontrollieren?

Ähnliche Ansätze der Kontrolle von KI verfolgt die gemeinnützige Initiative AlgorithmWatch. Sie hat sich zum Ziel gesetzt, algorithmische Entscheidungsprozesse und deren Auswirkungen auf menschliches Verhalten zu analysieren. Diese bergen ihrem Manifest zufolge enorme Gefahren als auch Chancen. Seit Juni 2018 berät AlgorithmWatch die EU in der KI-Expertengruppen AI HLG in ethischen Fragen.

Die Mathemathik-Dozentin Hannah Fry hat einen pragmatischen Ansatz dargestellt, wie man KI kontrollieren könnte. Sie bezieht sich in einem Gastbeitrag des Guardian auf den Politiker Tony Benn, der fünf Fragen an die Mächtigen dieser Welt formulierte. Fragen, die man ihrer Meinung auch moderner KI stellen sollte. Darunter fallen: Welche Macht hast du? Woher beziehst du sie? In wessen Interesse übst du sie aus? Wem bist du verantwortlich? Und: Wie werden wir dich wieder los? Sie begründet dies damit, dass man auch über die Fehler denken sollte, die Entwickler machen.

© Franck V./unsplash.com

Hier schreibt Patrick Füngerlings für Sie

Mehr Artikel vom Autor

Lesen Sie weiter auf CANCOM.info

Cookies auf dieser Website

Cookies sind für die korrekte Funktionsweise einer Website wichtig. Damit wir verstehen, wie unsere Seite im Allgemeinen genutzt wird und wir Ihren Besuch noch interessanter und personalisierter gestalten können, setzen wir Cookies und andere Technologien ein. Bitte treffen Sie Ihre bevorzugte Cookie-Auswahl, um fortfahren zu können. Hilfe.

Wählen Sie eine Option, um fortzufahren

Ihre Auswahl wurde gespeichert!

Sie können Ihre Cookie-Einstellung jederzeit ändern. Eine Erläuterung der einzelnen Einstellungen finden Sie in der Hilfe.

COOKIE EINSTELLUNGEN

Wir respektieren Ihre Privatsphäre und den Datenschutz. Damit wir verstehen, wie unsere Seite im Allgemeinen genutzt wird und wir Ihren Besuch noch interessanter und personalisierter gestalten können, sammeln wir Daten über die Nutzung dieser Seite. Hierzu verwenden wir Cookies. Wir teilen außerdem Informationen über Ihre Nutzung unserer Website mit unseren Social-Media-, Werbe- und Analytikpartnern gemäß unserer Datenschutzerklärung. Sie können Ihre Präferenzen in den Cookie-Einstellungen verwalten und jederzeit ändern.

Achtung: Wenn Sie noch keine 16 Jahre alt sind deaktivieren Sie bitte unbedingt alle Cookies die nicht notwendig sind, da für das Tracken durch Cookies von Kindern unter 16 Jahren die Zustimmung eines Erziehungsberechtigten vorliegen werden muss.

  • Alle Cookies akzeptieren:
    Diese Funktion erlaubt alle Cookies für Tracking- und Seiten-Analyse, Cookies zur Personalisierung der Website oder Social Media Dienste. Dazu zählen auch Cookies von externen Anbietern, wie zum Beispiel Youtube oder Vimeo, um das Abspielen von Videos zu ermöglichen sowie Cookies, die nicht ausschließlich für den Betrieb der Webseite notwendig sind. Das sind Cookies für Marketing, Statistik und andere.
  • Nur Cookies erlauben, die von dieser Webseite gesetzt werden:
    Hierbei werden zusätzlich zu den notwendigen Cookies weitere Cookies geladen, die vom Websitebetreiber für diese Webseite genutzt werden. Das sind zum Beispiel Cookies, die die Art beeinflussen, wie sich eine Webseite verhält oder aussieht (z. B. Ihre bevorzugte Sprache oder die Region in der Sie sich befinden).
  • Nur Cookies akzeptieren, die für die Funktion der Seite notwendig sind:
    Notwendige Cookies helfen dabei, eine Webseite nutzbar zu machen, indem sie Grundfunktionen wie Seitennavigation und Zugriff auf sichere Bereiche der Webseite ermöglichen. Die Webseite kann ohne diese Cookies nicht richtig funktionieren. Es werden bei dieser Option keine Cookies gesetzt, außer die aus technischen Gründen notwendig sind.

Zurück