Wie wird sich die KI weiterentwickeln?

Einige Leute, viele von ihnen sehr einflussreich auf ihrem Gebiet, glauben, dass sich die KI zu einem „Bewusstsein“ entwickeln wird. Wenn dies der Fall ist, könnte ein Punkt erreicht werden, an dem sich die Prophezeiung des Science-Fiction-Autors erfüllt, die Welt zu erobern und die Menschheit zu versklaven. Doch wie realistisch ist diese Sichtweise und welchen Entwicklungsweg müsste sie einschlagen, um sie zu erreichen?

An einem bestimmten Punkt auf diesem Weg würden wir die Kontrolle über die Technologie verlieren, die KI ermöglicht und befähigt. Um dies zu vermeiden, müssten wir mit einiger Sicherheit wissen, wann wir uns diesem kritischen Wendepunkt nähern.

Aber ist dies nur ein klassischer Fall von Huhn und Ei? Natürlich wissen wir, wer zuerst da war: wir. Aber ohne uns könnte sich die KI nicht weiterentwickeln. Sie würde nie einen evolutionären Punkt erreichen, an dem sie uns nicht mehr braucht. Das Ei würde nicht den Punkt erreichen, an dem es das Huhn nicht mehr braucht.

Wenn wir diesem Punkt zu nahe kommen, sollten wir dann das Huhn töten oder das Ei aufschlagen? Könnten wir die künstliche Intelligenz ohne zu zögern abschalten, wenn wir es müssten? Oder wären wir dann schon so abhängig davon, dass wir es nicht mehr schaffen würden? Brauchen wir einen autonomen Notschalter und wenn ja, können wir darauf vertrauen, dass er zu unseren Gunsten arbeitet?

Dies sind keine hypothetischen Fragen mehr. Es handelt sich um ernsthafte Bedenken, die auch als solche behandelt werden.

Die technologische Singularität

Wir haben eine lange und erfolgreiche Erfolgsbilanz bei der Zähmung von Technologie. Was wir bisher noch nicht erlebt haben, ist eine Technologie, die weiß, dass sie gezähmt wird. Die Herausforderung besteht einfach gesagt darin, wie wir sicher sein können, dass ein Nachrichtendienst die Einhaltung der Vorschriften nicht nur vortäuscht. Bei Menschen ist das nicht einfach, denn wir haben unsichtbare Beweggründe. Bei Haustieren ist es wahrscheinlich einfacher, weil ihre Beweggründe einfach sind. Vielleicht besteht die Antwort darin, sicherzustellen, dass KI niemals von einem unsichtbaren Agenten motiviert werden kann.

Möglicherweise sind wir nur noch wenige Jahre von der technologischen Singularität entfernt, bei der die Intelligenz der Technik die menschliche Intelligenz übertrifft. Es wird erwartet, dass dies irgendwann zwischen 2005 und 2030 der Fall sein wird. Elon Musk glaubt, dass dies bereits 2025 der Fall sein könnte. Die technologische Singularität wäre das Ergebnis einer Periode immer kürzerer Zyklen, in denen die KI sich selbst verbessert und eine intelligentere Version von sich selbst repliziert, bis sie innerhalb weniger Zyklen intelligenter ist als wir.

Was dann passiert, ist ungewiss. Eine einzelne KI, die allein operiert, ist vielleicht nicht so schwer zu entwaffnen. Wir sollten auch nicht davon ausgehen, dass das IoT der KI eine unüberwindliche Allmacht verleiht. Der Schlüssel liegt darin, es nicht so weit kommen zu lassen, indem man einige ausfallsichere Funktionen einbaut.

Interessanterweise beschäftigt sich derzeit kaum jemand mit der Frage, wie diese Ausfallsicherheitsfunktionen funktionieren könnten. In Anbetracht der dezentralisierten Natur von KI könnte es sogar unmöglich sein, überhaupt einen Kill-Switch zu implementieren.

Dies ist eines der potenziellen Probleme, mit denen sich eine ETSI ISG (Industry Specification Group) befasst, die sich mit der Sicherung künstlicher Intelligenz befasst, die ETIS SAI ISG. Der erste Bericht der SAI ISG, der im Januar 2021 veröffentlicht wurde, war der erste Bericht einer Organisation oder Initiative, die sich der Sicherung von KI widmet. Der erste Bericht der Gruppe gibt einen Überblick über die Problemstellung und zeigt einige der grundlegenden und umfassenderen Herausforderungen auf, die heute im Zusammenhang mit KI bestehen. Dazu gehört so etwas Grundlegendes wie die Fähigkeit zu verstehen, wie sie funktioniert.

Der Bericht zeigt auch, wie sehr sich KI-Systeme von herkömmlichen IT-Systemen unterscheiden. So ist es beispielsweise aufgrund ihrer Funktionsweise praktisch unmöglich, ein KI-System auf den letzten bekannten Stand zurückzusetzen. Die Entwicklung der KI verläuft nicht wie bei anderen IT-Systemen bruchstückhaft oder prozedural. Das heißt, wenn eine KI „schief“ läuft, wäre es sehr schwierig, sie auf eine „richtige“ Version zurückzusetzen. Aus denselben Gründen ist es auch schwierig, ein KI-System zu sichern. So gesehen ist die KI bereits ein lebendiges Gebilde, das sich ständig weiterentwickeln muss, um aktiv zu bleiben.

Und da KI nicht mit IT vergleichbar ist, ist nicht davon auszugehen, dass normale Sicherheitsmaßnahmen wie Firewalls sie wirksam schützen können. Hierauf konzentriert die ETSI SAI ISG ihre Bemühungen, die Sicherheitsschwächen der KI und der Entwicklung des maschinellen Lernens zu ermitteln und sich dann auf Wege zur Behebung dieser Schwächen zu einigen. Sie ist bereits zu dem Schluss gekommen, dass herkömmliche IT-Sicherheitslösungen nicht geeignet sind, sodass sie völlig neue Ansätze benötigt. Dazu gehört auch die Art und Weise, wie KI trainiert wird, wie sich KI gegen konventionelle oder KI-gestützte Angriffe verteidigen kann und wie KI zur Durchführung solcher Angriffe eingesetzt werden könnte.

Die Schwachen von den Starken

Forscher neigen dazu, KI entweder als schwach oder als stark zu bezeichnen. Heute würden die meisten KI-Systeme als schwach eingestuft werden. Es bedeutet einfach, dass das System darauf trainiert wurde, einige Dinge gut zu machen, aber nicht alle. Dazu gehören Expertensysteme, wie sie in der Bilderkennung verwendet werden, z. B. ein System zur Untersuchung medizinischer Bilder auf Anzeichen von Krebs.

Starke KI, auch bekannt als künstliche allgemeine Intelligenz, ist eine KI, die weder trainiert noch mit Expertenwissen ausgestattet werden muss. Sie lernt alles, im Grunde genommen von selbst. Manche glauben, dass nur eine starke KI, also eine künstliche allgemeine Intelligenz, empfindungsfähig werden kann. Dies würde nicht unbedingt mit einer technologischen Singularität zusammenfallen, aber wir können wohl davon ausgehen, dass sie eng miteinander verbunden sind. 

Roboter sind das menschliche Gesicht der KI, und es gibt Bestrebungen, Roboter verantwortungsbewusster zu machen, basierend auf der Prämisse, dass ein Roboter, der menschlich aussieht, auch so intelligent sein muss wie ein Mensch. Es gibt keine wirkliche Logik dafür, aber die Idee hat sich durchgesetzt. Die Anzeichen deuten darauf hin, dass die Verfügbarkeit von Robotern mit ausreichender künstlicher Intelligenz, die sie menschenähnlich macht, der eigentliche Wendepunkt sein wird.

Beispiele wie Sophia, der von Hanson Robotics entwickelte humanoide Roboter, der 2017 von Saudi-Arabien die Staatsbürgerschaft erhielt, sind Leuchttürme, die in die Zukunft weisen. Die Idee einer Charta der Roboterethik, die 2007 von Südkorea initiiert wurde, hat sich weltweit verbreitet. Solche Chartas werden sowohl Roboter als auch Menschen vor Missbrauch oder böser Absicht schützen. Im Jahr 2020 hat NXP eine KI-Ethik-Initiative ins Leben gerufen, die darauf abzielt, einen ethischen Ansatz für die Nutzung von KI-in-Edge-Geräten zu fördern. Sie besteht aus einem Rahmen von fünf Leitprinzipien, die sich auf die Bereiche Nicht-Malefiz, Schutz der menschlichen Autonomie, Vertrauen durch Transparenz, Risikominderung sowie Privatsphäre und Sicherheit beziehen.

Obwohl es sich um parallele Entwicklungspfade handelt, scheinen KI und Robotik untrennbar miteinander verbunden zu sein, sodass ihre endgültige Konvergenz nicht nur erwartet, sondern praktisch unvermeidlich ist.

Hardware in der Schleife

Unter der Polymerhaut eines Roboters oder eines Geräts mit künstlicher Intelligenz befindet sich eine Menge Hardware und Software. Das Quantencomputing ist zwar eine weitere Technologie, die alles verändern wird, doch ist sie noch viele Jahre davon entfernt, die vorherrschende Form der Datenverarbeitung zu sein.

Das bedeutet, dass es schwer vorstellbar ist, dass eine KI, wie auch immer sie für uns aussehen mag, in den kommenden Jahrzehnten nicht auf integrierte Schaltkreise auf Siliziumbasis angewiesen sein wird. Es überrascht nicht, dass auf diesem niedrigen Niveau eine Menge Forschung und Entwicklung betrieben wird. Software bietet den Rahmen für intelligente Entscheidungen, aber erst die Hardware verleiht diesem Rahmen Struktur.

Neben leistungsfähigeren und paralleleren Prozessoren auf der Grundlage herkömmlicher Architekturen wie GPUs und DSPs wächst das Interesse an KI-Beschleunigern und neuen Architekturen, die KI auf ganz andere Weise umsetzen.

Herkömmliche CPU-Architekturen sind von Natur aus seriell, und obwohl es verschiedene Tricks gibt, um den Ausführungspfad zu parallelisieren, ist normale Software immer noch prozedural. Bei der Hardware ist das nicht der Fall; FPGAs und ASICs werden mit Sprachen entwickelt, die diese gleichzeitige Ausführung berücksichtigen. Wir haben noch keine neue Software-Sprache für die Programmierung von KI-Architekturen, aber die Architekturen werden kommen.

Es sei daran erinnert, dass KI zwar überall in Rechenzentren zur Verarbeitung großer Datenmengen eingesetzt wird, aber auch in Edge-Geräten. Bei diesen Anwendungen ist der stromsparende Betrieb ein entscheidender Faktor. Eine der am sehnlichsten erwarteten Anwendungen von KI-in-Edge-Geräten besteht darin, den Menschen die Nutzung von Technologie zu erleichtern. Es gibt große Erwartungen an die Rolle, die die Stimme in dieser Zukunft spielen wird. Der Einsatz von KI zur Interpretation von Sprachbefehlen ist vielleicht das Paradebeispiel für eine intelligente Zukunft.

Ein Start-up-Unternehmen hat ein neuronales Netz für genau diese Anwendung entwickelt, genauer gesagt zwei. Syntiant hat den Neural Decision Processorä auf der Grundlage seiner IP für neuronale Netzwerke entwickelt. Das Unternehmen behauptet, dass es alle gängigen neuronalen Netzwerkarchitekturen ausführen kann und dabei sehr wenig Strom verbraucht. Das bedeutet, dass es in tragbaren, batteriebetriebenen Geräten eine permanente Wake-Word-Erkennung ermöglichen kann.

Fast alle etablierten Prozessorhersteller, darunter Intel, Nvidia und Arm, sowie Technologieunternehmen wie IBM und Amazon haben sich zu ihren Entwicklungen in diesem Bereich geäußert. Für die größeren Unternehmen scheint der Schwerpunkt auf der Beschleunigung der KI im Rechenzentrum zu liegen, wo das Training stattfindet. Dies ist sinnvoll, da die Ausbildung den größten Teil des Bearbeitungsaufwandes ausmacht. Hier herrscht Wettbewerb, um zu beweisen, wer den besten Ansatz hat. Generell wird der Kampf wahrscheinlich noch viele Generationen von Prozessor- und Beschleunigertechnologien andauern. Es ist zu erwarten, dass der Spitzenplatz über diese Generationen hinweg mit immer geringeren Abständen gewonnen und verloren wird.

Im Edge Computing, wo der Großteil der KI und des maschinellen Lernens in Form von Schlussfolgerungen stattfinden wird, gibt es weitaus mehr Vorschläge, die um eine Position konkurrieren. Wie die Prognosen der Marktanalysten zeigen, gibt es hier viele Neugründungen. Diese Unternehmen sind keine bekannten Namen und werden es vielleicht auch nie sein, da das Geschäftsmodell für viele von ihnen wahrscheinlich die Übernahme durch eine größere, bekanntere Marke beinhaltet.

Gemeinsam ist ihnen, dass sie sich auf bestimmte Anwendungen konzentrieren. Das ist es, was wir als schwache KI oder Expertensysteme bezeichnen können. Die maschinelle Bildverarbeitung ist eine solche Anwendung, vor allem im Hinblick auf neue Trends wie autonome Fahrzeuge.

Die nahe Zukunft vorhersagen

Ausgehend von dem, was wir wissen, sollte es nicht allzu schwierig sein, vorherzusagen, was in naher Zukunft in Bezug auf die KI passieren wird. Wir können in diesem Szenario die „KI“ sein, indem wir untersuchen, was wir beobachten können, es mit dem, was wir wissen, in Beziehung setzen und daraus ableiten, was passieren wird.

Schwache KI und Inferencing werden am Rande des Netzes immer häufiger anzutreffen sein. Die Umsetzung erfolgt mithilfe von Beschleunigern und optimierten Verarbeitungsarchitekturen. Diese Beschleuniger werden wahrscheinlich in Verbindung mit konventionellen eingebetteten Prozessorarchitekturen arbeiten. Gleichzeitig können wir davon ausgehen, dass sich diese Allzweckarchitekturen weiterentwickeln und mehr KI-bezogene Funktionen und Befehle enthalten werden.

Gegenwärtig sind diese Funktionen zahlreich und spezifisch, was zu einer starken Fragmentierung des Marktes führt. Die Elektronikindustrie ist dafür bekannt, solche Unebenheiten auszugleichen, sodass wir davon ausgehen können, dass diese Fragmente entweder durch Übernahmen oder einen allgemeinen Konsens zusammenwachsen werden. Irgendwann sollten wir einen Punkt erreichen, an dem alle Edge-Prozessoren zumindest ein gemeinsames und grundlegendes Niveau von KI oder maschinellem Lernen unterstützen können, und zwar auf ähnliche Weise. Dadurch wird ein gewisses Maß an Kompatibilität geschaffen.

Im Rechenzentrum mag das anders sein. Die architektonischen Protagonisten werden sich wahrscheinlich nicht vertragen. Oft wird in solchen Situationen derjenige mit der lautesten Stimme am meisten gehört, aber das bedeutet nicht immer, dass sich die technisch beste Lösung durchsetzt. Auch hier zeigt uns die Geschichte, dass sich nicht immer (oder sogar normalerweise) die beste Technologie durchsetzt. Im Fall von KI, wo so viel auf dem Spiel steht, können wir jedoch wahrscheinlich mit einer umsichtigeren Diskriminierung rechnen. In diesem Szenario ist es wahrscheinlicher, dass es Platz für mindestens drei marktbeherrschende Akteure geben wird.

Was die schwache und die starke KI betrifft, so wird sich die Landschaft in naher Zukunft wohl kaum drastisch verändern. Expertensysteme, die in der Lage sind, auf der Grundlage spezifischer Daten Schlussfolgerungen zu ziehen, werden bei Edge-Verarbeitungs-Anwendungen dominieren, während sich starke KI in den Grenzen des Rechenzentrums und der Serverfarm entwickeln wird. Es ist also unwahrscheinlich, dass wir in absehbarer Zeit Roboter sehen werden, die Menschen perfekt imitieren können. Aber wir werden wahrscheinlich mehr lästige Anrufe von automatisierten Diensten erhalten, die sich als Menschen ausgeben und versuchen, uns unerwünschte Dienstleistungen zu erstaunlich niedrigen Preisen zu verkaufen.