KI jenseits des Hypes – Die 3 Fallstricke der KI

Man muss nicht lange suchen, um die Panikmache vor KI zu spüren. Roboter werden unsere Arbeitsplätze übernehmen, AGI (Allgemeine Künstliche Intelligenz) übertrifft die menschlichen Fähigkeiten, erreicht den Punkt der „Singularität“ – die Hypothese, dass KI intelligenter als Menschen und dann unkontrollierbar wird – und das Ende der Menschheit, wie wir sie kennen. Filme wie „Terminator“, „Minority Report“ und „Ex Machina“ haben die Kapitulation der Erde vor der Technologie seit Jahren in Hollywood-Manier dargestellt.

Wenn Sie Unternehmensleiter nach den Risiken fragen, die KI für ihr Unternehmen birgt, erhalten Sie tendenziell ähnliche Antworten zu ähnlichen Themen:

• Was ist mit Urheberrecht und geistigem Eigentum?
• Wie steht es mit Arbeitsplatzverlusten und Humankapital?
• Stehen wir am Anfang einer maschinengesteuerten Welt?
• Besteht die Gefahr, dass maschinelle Intelligenz die menschliche Intelligenz ersetzt?
• Wie können wir gegen die unfehlbare Maschinenintelligenz bestehen?
• Wie können wir schnell genug vorgehen, um das Risiko zu minimieren, überholt zu werden?
• Wer gewinnt am Ende – wir, unsere Konkurrenten, neue Marktteilnehmer oder die KI im Allgemeinen?
• Wem kann man die Regulierung dieser neuen Welt anvertrauen?

Jede dieser Fragen lässt sich so lösen, dass neben Risiken auch Chancen entstehen. Doch vielen Führungskräften fällt es derzeit schwer, die Unterschiede zu erkennen. Es herrscht zu viel Unklarheit. Es besteht weiterhin eine Talentlücke – Schätzungen zufolge benötigen wir zehnmal so viele Informatikabsolventen wie heute, um die bereits angekündigten Einstellungspläne der großen Softwareunternehmen zu erfüllen. Die Geschwindigkeit des Wandels nimmt schneller zu, als bestehende Betriebsmodelle wie Geschäftsjahre oder Quartalsberichte ausgelegt sind.

Das bedeutet aller Wahrscheinlichkeit nach, dass wir uns anderswo nach einer rationalen und unbefangenen Sichtweise umsehen müssen. Schauen wir uns an, worüber sich die Wissenschaft einig ist.

Akademiker sind sich nicht immer einig, aber in den letzten zehn Jahren haben sich Vordenker der größten und besten Technologie-Bildungseinrichtungen (darunter Massachusetts Institute of Technology [MIT], University of Oxford, Stanford University, Indian Institute of Technology, National University of Singapore usw.) auf die drei Fallstricke der KI geeinigt: Datenschutz, Replikation und Befangenheit.

Datenschutz

Privatsphäre ist die Fähigkeit einer Person oder Gruppe, sich selbst (oder Informationen über sich selbst) abzuschotten und dadurch selektiv in ihren Äußerungen zu sein. Der Begriff ist uns allen vertraut. Privatsphäre überschneidet sich teilweise mit Sicherheit, die die Konzepte der angemessenen Nutzung und des Schutzes von Informationen umfassen kann.

Der Missbrauch der Privatsphäre kann jedoch auch abstrakter sein. Denken Sie an die (bestehenden) Patente, die Social-Media-Profile mit dynamischer Preisgestaltung im Einzelhandel verknüpfen. Der Anwendungsfall ist meist ein Rabatt für einen Käufer, da die Technologie des Einzelhändlers – basierend auf Social-Media-Daten – weiß, dass er bei einem Coupon oder Angebot wahrscheinlich kaufen wird. Dies ist für beide Seiten eine Win-Win-Situation, und daher wirkt der Datenaustausch eher wie ein Transaktionsaustausch als wie ein Eingriff in die Privatsphäre.

Wenn jedoch dieselbe Technologie dazu verwendet werden kann, den Preis eines Antidepressivum-Rezepts in die Höhe zu treiben – weil die Daten dem System des Einzelhändlers mitteilen, dass der Käufer wahrscheinlich psychische Probleme hat – wird schnell klar, dass die menschlichen Kosten eines Datenschutzmissbrauchs tatsächlich sehr hoch sein können.

Datenschutz gilt als eine der drei Gefahren der KI, da Daten (und oft auch personenbezogene Daten) untrennbar mit dem Erfolg maschineller Intelligenz verbunden sind. Die Diskussion darüber, wem diese Daten gehören, wie sie verwendet werden sollten und wie nicht, wie man Menschen über die Bedeutung von Daten aufklärt und wie man Nutzern mehr Kontrolle über die Daten gibt, wird in Teilen (aber bei weitem nicht in der gesamten Gesellschaft) schon lange geführt. Mit dem Fortschritt der KI ist allgemein anerkannt, dass sich dieser Bereich parallel weiterentwickeln muss.

Replikation

Die Unfähigkeit, eine von KI getroffene Entscheidung zu replizieren – oft als „Black Box“ bezeichnet – tritt auf, wenn Programmierer und Entwickler oder Eigentümer von Technologien nicht verstehen, warum ihre Maschine eine bestimmte Entscheidung trifft und nicht eine andere.

Replikation ist unerlässlich, um die Wirksamkeit eines Experiments zu beweisen. Wir müssen wissen, dass die von einer Maschine erzeugten Ergebnisse in der realen Welt konsistent sind und nicht zufällig entstanden sind. Mit denselben Daten, derselben Logik und derselben Struktur kann maschinelles Lernen unterschiedliche Ergebnisse liefern und/oder Schwierigkeiten haben, ein vorheriges Ergebnis zu wiederholen. Beides ist problematisch – und kann besonders problematisch sein, wenn es um Algorithmen geht, die auf Erfahrungslernen (Reinforcement Learning) trainiert sind, da sich Fehler dadurch vervielfachen.

Der „Black-Box“-Ansatz wird oft mit dem Schutz geistigen Eigentums oder dem Beta-Status von Produkten entschuldigt. Doch die anhaltende Unfähigkeit, Ergebnisse von Maschinen abzufragen, zu prüfen, zu verstehen und zu hinterfragen, führt dazu, dass Menschen Maschinen nicht mehr vertrauen können. Sei es die Unklarheit darüber, wie ein Kreditgeber Ihren Hypothekenantrag bewertet hat, oder etwas noch Schwerwiegenderes, wie der Unfähigkeit zu beweisen, dass ein potenzieller Arbeitgeber maschinelles Lernen zur Diskriminierung eines Bewerbers eingesetzt hat.

Replikation gilt als eine der drei Fallstricke der KI, denn wir müssen wissen, dass wir KI vertrauen können. Um ihr vertrauen zu können, müssen wir sie verstehen können. Und um sie verstehen zu können, müssen wir sie replizieren können.

Befangenheit

„Eine Tendenz, Neigung oder ein Vorurteil gegenüber – oder gegen – etwas oder jemanden“ – so wird Voreingenommenheit üblicherweise definiert. Google liefert aktuell über 328 Millionen Ergebnisse für die Suche nach „KI-Voreingenommenheit“. Leider scheinen KI und Voreingenommenheit Hand in Hand zu gehen, und täglich taucht eine neue Geschichte über maschinelle Intelligenz auf, die (große) Fehler macht.

Da der Einsatz künstlicher Intelligenz immer weiter verbreitet ist und sich auf Bereiche auswirkt, in denen es um personenbezogene Daten geht – darunter Personalbeschaffung, Justizsystem, Gesundheitswesen und die Einbeziehung von Finanzdienstleistungen –, ist der Fokus auf Fairness, Gleichheit und Diskriminierung zu Recht stärker geworden.

Die eigentliche Herausforderung der Maschinenvoreingenommenheit liegt – wenig überraschend – in der menschlichen Voreingenommenheit. Wenn Menschen die Algorithmen entwickeln, Trainingsdaten definieren und Maschinen beibringen, wie gut etwas aussieht, verfestigen sich die inhärenten Vorurteile (bewusst oder unbewusst) der Entwickler dieser Maschinen.

Das investigative Nachrichtenportal ProPublica hat gezeigt, dass ein System zur Vorhersage der Rückfallquote in Florida afroamerikanische Angeklagte fast doppelt so häufig fälschlich als „Hochrisiko“ einstufte wie weiße Angeklagte. Das System hat diese Voreingenommenheit nicht erfunden – es hat die von seinen Entwicklern programmierten Annahmen extrapoliert und darauf aufgebaut.

Technologen und Produktverantwortliche verwenden gerne das Akronym GIGO – „Garbage In, Garbage Out“ – und das trifft hier absolut zu. Wenn wir Maschinen das Denken beibringen, werden alle Annahmen, die wir zu Beginn treffen, mit zunehmender Skalierung der Technologie exponentiell problematisch.

Replikation gilt als eine der drei Tücken der KI, da Technologie oft als großer Gleichmacher angesehen wird, der Chancen schafft und den Zugang demokratisiert. Solange die KI-Voreingenommenheit jedoch genauso schlimm oder schlimmer ist als die menschliche, werden wir tatsächlich Rückschritte machen – und große Teile der Gesellschaft benachteiligen.

Antworten auf die Herausforderungen der KI

Jede dieser drei Fallstricke der KI ist ernst und hat viel Aufmerksamkeit erregt – auch von den Führungskräften der Unternehmen, die an der Spitze der KI-Entwicklung stehen. Wenn Mehr als 1,100 CEOs schrieben den mittlerweile berüchtigten offenen Brief Mit ihrer Forderung nach einem Stopp der KI-Entwicklung baten sie im Grunde darum, den Menschen Zeit zu geben, um aufzuholen und über die möglichen Konsequenzen ihres Handelns nachzudenken.

Es gibt weitere Fragen zur Regulierung – die Gesetzgeber haben Mühe, mit dem Tempo des Wandels Schritt zu halten. Das Vertrauen in Politiker ist weltweit nach wie vor gering, und die Öffentlichkeit zögert, einer kleinen Gruppe von Milliardären aus der Technologiebranche Dinge anzuvertrauen, die realistischerweise existenzielle Bedrohungen für Teile unseres heutigen Lebens darstellen könnten. Doch Selbstregulierung ist der Punkt, an dem wir uns derzeit befinden, und das bedeutet, dass es an den einzelnen Technologieentwicklern liegt, verantwortungsvoll und ethisch zu handeln.

At Papirfly Wir haben eine Ethik-Charta definiert, die regelt, welche Technologien wir entwickeln, wie wir sie entwickeln und welche ethischen Parameter dabei gelten. In Teil 4 dieser Serie stellen wir unsere Ethik-Charta vor und zeigen, wie sie in unserem Unternehmen umgesetzt wird.

Sehen Sie sich unser On-Demand-Webinar an