Künstliche Intelligenz und Europa
Panel „Die unverbundenen Neuronen Europas“
Gestern war ich zur Teilnahme am French-German Business Forum eingeladen, wo ich einen Beitrag zum Thema Künstliche Intelligenz (KI) leisten durfte. Der folgende Artikel entstand aus meinen persönlichen Notizen dazu.
Bemerkung: Die geäußerten Ansichten und Meinungen sind die des Autors und spiegeln nicht unbedingt die offizielle Politik oder Position einer anderen Agentur, Organisation, eines Arbeitgebers oder Unternehmens wider.
Vorteile und Risiken der Technologie
„AI is the new electricity“ sagt Andrew Ng, der KI-Forscher von Stanford, der auch beim Google Brain Projekt und früher bei Baidu gearbeitet hat. Die Analogie ist weit treffender als sie scheinen mag, denn genau wie Elektrizität ist KI eine transformative Technologie, deren wahre Vorteile und Risiken abseits von Utopien und Horrorszenarien noch gar nicht in Gänze abschätzbar sind, da sie sich über längere Zeiträume erst entfalten müssen.
“AI is the new electricity.” — Andrew Ng
Grundsätzlich müsste man eine Differenzierung durchführen, bevor man von Risiken und Vorteilen spricht. Denn KI ist nicht nur eine Technologie, sondern eine Sammlung von vielen Technologien mit vielen verschiedenen Anwendungsbereichen. Eine Differenzierung in prädiktive, kategorisierende und generative Technologien ist nicht ganz sortenrein, aber ausreichend für die Diskussion.
- Prädiktive Technologien: Vorhersagen über den zukünftigen Zustand oder die Verfügbarkeit von Material, Produkten, Situationen oder gar des Wetters sind grundlegend für eine funktionierende Wirtschaft. Durch eine intelligente Steuerung mit Hilfe von KI kann heute und zukünftig effizienteres und nachhaltigeres Handeln erreicht werden. Prädiktive Wartung von Maschinen und Infrastruktur, besseres Routing in Verkehr und Logistik und effizientere Lieferketten sind Vorteile, die durch KI möglich werden.
- Kategorisierende Technologien: Nicht nur Kundensegmentierung und Qualitätssicherung profitieren von automatischer Kategorisierung durch KI. Auch Fahrsicherheit ist ein Anwendungsfall, bei dem KI-Produkte (Erkennung und Kategorisierung von Objekten durch Computersehen) auch schon heute dabei helfen Straßen sicherer zu machen. Auch in der näheren Zukunft wird KI wahrscheinlich vorrangig in der Form des Fahrassistenzsystems und nicht in der Form des selbstfahrenden Autos zu finden sein. Dennoch gibt es hier klare Anzeichen, dass KI bereits jetzt und verstärkt in der Zukunft, dabei helfen wird Unfälle zu vermeiden.
- Generative Technologien: Die Erzeugung von Medien wie Bildern, Videos und Texten aus einfachen Schlagwörtern oder Skizzen ist bereits jetzt möglich und wird auch in Zukunft immer mehr dazu führen, dass Menschen einfacher und schneller Content erzeugen können. Insbesondere in Forschung und Entwicklung sind generative Technologien interessant, denn sie können auch zur schnelleren Entdeckung von neuen Materialien, chemischen Stoffen oder Pharmazeutika führen.
Risiken gibt es bei neuen, transformativen Technologien viele. Doch zwei Risiken müssen beim Einsatz von KI besonders benannt werden. Erstens ist KI von der Verfügbarkeit von Daten abhängig. Wenn KI Elektrizität ist, dann sind Daten der Rohstoff, der zur Erzeugung der KI verwendet wird. Doch Daten haben immer auch eine gewisse Qualität. Manchmal ist diese Qualität jedoch durch schlechte Erhebung nicht gegeben, oder Daten enthalten möglicherweise Korrelationen, die so gar nicht existieren. KI, die auf solchen Daten basiert, wird darauf basierend falsche Schlüsse ziehen und so zu Problemen führen. Das heißt, die KI wird in der wirklichen Welt im besten Fall nutzlos und im schlimmsten fall schädlich sein. Um es etwas anders zu formulieren: Garbage in — garbage out, wenn man Schrott in die Modelle der KI steckt, wird man auch Schrott erhalten.
“Garbage in — garbage out” — IT-Weisheit
Schlimmer allerdings ist, wenn Daten Tendenzen enthalten, die zwar in der wahren Welt existieren, die wir aber nicht durch KI weiter institutionalisieren möchten. Dies ist insbesondere wichtig, wenn man versucht KI im Gesundheitsbereich oder in sozialen Bereichen einzusetzen versucht. Als Beispiel lässt sich hier die Tatsache nennen, dass Medikamentenstudien vorrangig männliche Teilnehmer haben. Die erhobenen Daten sind also tendenziell korrekt für Männer, eine ähnliche Aussage lässt sich aber ggf. nicht für Frauen treffen. Ein anderes Beispiel sind Datensets, die Einkommen von Personen darstellen. Ein unvorsichtig erzeugtes Modell des maschinellen Lernens könnte zum Schluss kommen, dass Frauen grundsätzlich weniger Einkommen erhalten sollten, nur weil die tatsächliche Verteilung heutzutage dies leider so abbildet. Denn eines sollte man sich immer vor Augen halten: Derzeit ist KI „sehr sehr dumm“ (Andrew Moore — Google AI). Gute KI unterscheidet sich von schlechter KI nur durch den, der sie erzeugt. Es ist also sehr wichtig, ein gründliches Verständnis der Daten und der Nutzung der Daten zu entwickeln, um dieses Risiko unter Kontrolle zu halten. Dafür braucht es gute Ausbildung und Investition in das Thema.
Zweitens kann insbesondere der Einsatz von generativen Technologien dafür sorgen, dass Medien wie Bilder, Filme oder Audio unglaubwürdig werden. Wenn man kann sich nicht mehr sicher sein kann, ob ein Video echt oder durch KI erzeugt wurde, sinkt die Glaubwürdigkeit von Nachrichten und Fakten. Eines ist klar: Deepfakes und Audiomanipulation existieren schon heute und werden in den nächsten Jahren noch viel besser werden. Es häufen sich bereits Berichte, dass Betrüger erfolgreich Stimmen am Telefon mit Hilfe von KI fälschen, um dadurch an Informationen zu gelangen oder Menschen zu Aktionen zu bewegen, da diese denken, sie würden mit ihrem Chef oder ihrem Partner sprechen. Das wirtschaftliche Risiko, wie Verlust von geistigem Eigentum oder Kapital, ist immens.
Einsatz von Deepfakes für manipulative Zwecke hat auch eine politische Dimension, denn dadurch lassen sich auch Worte in den Mund von Politikern legen, die sie nie gesagt haben. Eine Erosion des politischen Diskurses wäre da nur ein Nebeneffekt, denn historische Aufnahmen können so immer bezweifelt werden — sowohl vom demokratischen Publikum als auch von den politischen Akteuren selbst. Ein Umstand der schon heute von Politikern verwendet wird, obschon eindeutiges Material existiert. Kann dieses Material frei generiert werden, lässt sich von einer auf fakten basierenden Diskussion nicht mehr sprechen, denn das Wort “Fakt” verliert seine Bedeutung.
Ist Europa zu spät? Was kann Europa noch liefern?
Grundsätzlich hat sich Europa viel Zeit gelassen, um sich mit dem Einsatz der Technologie zu befassen. Vergleicht man Europa mit China und den USA sieht man, dass beide Länder in den meisten Metriken einen klaren Vorsprung gegenüber den einzelnen Ländern Europas wie auch dem gesamten EU-Raum haben. Das hat mehrere Gründe.
Nimmt man die USA, so findet man, dass man sich dort schon seit deutlich längerer Zeit mit der Implementierung von KI in Unternehmen und anderen Bereichen des Lebens beschäftigt. Die großen Technologiefirmen wie Google und Amazon haben früh erkannt, dass dafür eine hohe Datengüte, -menge, und -verfügbarkeit notwendig ist und sich so über das letzte Jahrzehnt zu „AI First“-Unternehmen entwickelt, die die Entwicklung von KI-Anwendungen unerlässlich vorantreiben. Innovationsdruck hat dafür gesorgt, dass kleinere oder technologiefernere Unternehmen bereits heute deutlich nachziehen.
China auf der anderen Seite hat ein klar erklärtes Ziel — führend in der Verwendung von KI bis 2035 — das auch mit großen Investitionen hintermauert wird. Zudem haben Firmen wie Baidu und Tencent früh die Rolle von KI erkannt und gezielte Datensammlung betrieben. Durch die hohe Menge an Nutzern in China (Demographie) können diese Firmen nun auf einen riesigen Datenbestand zurückgreifen. Außerdem erlauben die deutlich niedrigeren Datenschutzhürden eine viel umfassendere Datenaufnahme pro Person als dies in Europa möglich wäre.
Dies soll nicht heißen, dass China oder die USA Muster für die europäische Verwendung von KI sein sollen. Denn Europa hat aus gutem Grunde stärkere Datenschutzrichtlinien und erlaubt die Bildung großer kartellartiger Gruppierungen, wie sie die amerikanischen Tech-Konzerne darstellen, nur unter Auflagen. Dennoch kann sich Europa die Rosinen aus diesen beiden Beispielen heraussuchen. Zuerst einmal sollten eine KI Vision und Mission für Europa formuliert werden. Die europäischen Unternehmen — und insbesondere die deutschen — täten auch gut daran sich klarer zur Verwendung von KI zu positionieren und die entsprechenden vorbereitenden Leistungen erbringen, um sich zu „AI First“ Unternehmen zu entwickeln. Leider bewegen sich viele, auch große, Unternehmen hier zu langsam und entdecken gerade erst das „Mobile first“-Paradigma für sich, das als wegbereitend und notwendig für „AI First“ zu verstehen ist.
Europa braucht eine KI Vision und eine Mission
Bei der Formulierung der Vision kann Europa ein klares Zeichen setzen. Wichtig ist dabei, dass der Mensch und die Nachhaltigkeit im Mittelpunkt dieser Vision stehen, denn erst dadurch kann sich Europa positiv hervorheben. Die entsprechenden Investitionen durch die europäischen Länder müssen gemeinsam beschlossen und freigegeben werden, um dieser Vision Leben zu verleihen.
Das Gute zum Schluss: Auch wenn Europa ein Nachzügler in Sachen KI ist, gibt es eine Besonderheit, die man bedenken sollte. Anders als im Fall der meisten anderen transformativen Technologien werden die Algorithmen der KI größtenteils nicht proprietär, sondern Open Source entwickelt. Forschungspapiere zum Thema sind oft frei verfügbar. Es existieren große und wachsende Communities von Data Scientists und Machine Learning Experten, die Informationen zur Entwicklung und auch Umsetzungsbaupläne frei verfügbar bereitstellen. Sind erst einmal Anwendungsfall und Datenbestand bekannt, sind KI-Modelle daher schon beinahe eine Commodity — ein Umstand, der vielen Startups im KI-Bereich schon heute zu schaffen macht. Doch aus diesem Grund ist es möglich in der Entwicklung mit den USA oder China trotz heutigem Rückstand gleichzuziehen.
Dieser Artikel erschien zuerst auf https://www.linkedin.com/pulse/beitrag-zum-french-german-business-forum-dr-burkhard-schwab
