Die Basis schaffen für verantwortungsvolle Anlagen in KI

Generative Künstliche Intelligenz (Gen AI) ist die vierte technologische Welle, die auf den Mainframe-Computer, PCs, Internet und Mobilgeräte folgt. Diese früheren Innovationswellen haben Branchen vom Einzelhandel über die Medien bis hin zum E-Commerce verändert. Nun besitzt die generative KI das Potenzial, ein breiteres Spektrum von Branchen zu verändern. Dies verdeutlicht die Notwendigkeit, diese Technologie angesichts vielfältiger Herausforderungen und Risiken auf verantwortungsbewusste Weise einzuführen. Dies war das Thema einer kürzlichen Veranstaltung von verantwortlichen KI-Experten, darunter Michelle Dunstan, Sarah de Lagarde, Alison Porter und Antony Marsden.

Was ist KI?

Bevor wir in das Thema verantwortungsvolle KI eintauchen, ist es wichtig, eine Unterscheidung zwischen generativer KI einerseits und menschlicher Intelligenz und künstlicher allgemeiner Intelligenz (AGI) zu treffen, also wenn Modelle genauso intelligent oder intelligenter als Menschen werden. Gen KI ist in der Lage, neue und originale Inhalte mit sogenannten "Transformer-Modellen" zu generieren. Dabei handelt es sich um eine Art von KI-Modell, das durch die Analyse von Mustern in großen Datenmengen menschenähnliche Texte generiert. Diese Modelle, die eine ständig wachsende Palette von Parametern verwenden (Chat GPT-4 von Open AI hat über eine Billion), helfen Algorithmen, anhand historischer Daten und Interaktionen zu lernen, zu reagieren, zu erstellen und vorherzusagen.

Der Siegeszug der KI

Warum hören wir plötzlich so viel von KI? Es ist zu einem Modewort für alles geworden. Aber warum ausgerechnet jetzt? Während KI seit Jahrzehnten eine tragende Säule in Science-Fiction-Romanen und -Filmen ist, haben die jüngsten Produktinnovationen ihre Anwendung Wirklichkeit werden lassen.

So wie frühere Technologiewellen durch schnelle Kostensenkungen katalysiert wurden, um sie zugänglicher und skalierbarer zu machen, so ist dies auch bei dieser jüngsten Welle der KI-Generation der Fall. Stellen Sie sich zum Beispiel vor, dass der Flash-Speicher des Apple iPhone 16 (128 GB) in den 1990er Jahren über 5 Millionen US-Dollar gekostet hätte. Eine Kombination aus dem rasanten Fortschritt bei Transformer-Modellen, die die Verarbeitung natürlicher Sprache ermöglichen, und der beschleunigten Rechenleistung, die von den Grafikprozessoren (GPUs) von Nvidia geboten wird, hat die Rechenkosten so weit gesenkt, dass der Zugang demokratisiert und die Anwendungsfälle erweitert wurden. Diese Fortschritte haben KI zur Realität gemacht und ermöglichen es Verbrauchern und Unternehmen, einfacher und kostengünstiger auf Technologien wie ChatGPT und andere große Sprachmodelle (LLMs) für eine Vielzahl von Anwendungsfällen zuzugreifen und diese zu übernehmen.

Wellen der KI-Innovation

Im Gegensatz zu eng umgrenzten Anlagethemen erfordern Innovationswellen Investitionen in alle Technologieschichten, vom Silizium bis hin zu Infrastruktur, Geräten, Software und Anwendungen. Aus diesem Grund neigen diese Wellen dazu, sich über lange Zeiträume von mehreren Jahren zu erstrecken.

Jede dieser Wellen hat zu einer tieferen und breiteren Disruption geführt, mit einer Erweiterung der Anwendungen und Anwendungsfälle. Büroanwendungen, Kommunikation und E-Commerce erfuhren im Zeitalter des PC-Internets eine Disruption, wobei in der Ära der der mobilen Cloud Medien, Unterhaltung und Transport betroffen waren.

Zu Beginn dieser vierten Welle sind immer mehr Sektoren, darunter das Gesundheitswesen und das Transportwesen, von disruptiven Entwicklungen und Transformation betroffen. Auch in dieser jüngsten Welle erkennen wir Parallelen zu den sozialen, ökologischen und regulatorischen Herausforderungen vergangener Wellen. Jede vorangegangene Welle war in ähnlicher Weise mit Bedenken hinsichtlich unangemessener Nutzung, Privatsphäre und ihren Auswirkungen auf das Stromnetz konfrontiert.

Trotz dieser Herausforderungen haben wir in den vergangenen Wellen eine zunehmende Technologieakzeptanz in immer mehr Branchen erlebt. Denn Innovation zielt darauf ab, die Leistungsfähigkeit neuer Technologien zu nutzen, um kritische Herausforderungen wie geopolitische Probleme, Demografie und Schwachstellen in der Lieferkette zu bewältigen und die menschliche Produktivität und Zusammenarbeit zu verbessern.

Verantwortungsvoller Einsatz von KI

Wenn es um verantwortungsvolle KI geht, ist es wichtig zunächst zu verstehen, dass KI lediglich eine Technologie ist, die von Natur aus weder gut noch schlecht ist. Sie kann eine Vielzahl von positiven und negativen Auswirkungen auf den Menschen haben, die oft als zwei Seiten derselben Medaille angesehen werden können. So birgt KI im Gesundheitssektor das Potenzial, die Früherkennung von Krankheiten deutlich zu verbessern. Sind die dabei anfallenden Daten jedoch nicht ausreichend geschützt, kann dies in der Folge den Abschluss einer Krankenversicherung erschweren. Auch wenn KI verspricht, den Arbeitsplatz zu verbessern, indem sie lästige Aufgaben eliminiert, gibt es berechtigte Bedenken hinsichtlich ihrer Fähigkeit, ganze Berufsgruppen zu verdrängen.

Aus klimatischer Sicht haben KI-Anwendungen ein enormes Potenzial, einige der Ursachen des Klimawandels anzugehen. Doch der derzeitige Ausbau der Infrastruktur trägt ironischerweise kurzfristig zu einem Anstieg der Kohlenstoffemissionen bei.

In früheren IT-Wellen wurde die Besorgnis über das Internet und die mobile Cloud, die durch fossile Brennstoffe ermöglicht wird, von Analysten im Energiesektor geschürt. Diese Analysten extrapolierten, dass der derzeitige Stromverbrauch und die Kohlenstoffintensität bei steigender Nachfrage anhalten würden. Bei diesen Prognosen wurde jedoch nicht berücksichtigt, wie Effizienzzuwächse dieser neuen Technologien den Stromverbrauch senken könnten. Während die steigende Nachfrage nach Rechenzentren zu einem erhöhten Energiebedarf führt, wird dies teilweise durch erhebliche Investitionen in neue Silizium-, Speicher- und Netzwerktechnologien ausgeglichen, die diese Energiebedarfskurve abflachen und potenzielle zukünftige Emissionen reduzieren können.

Zusätzlich zu diesen neuen Technologien sehen wir immer wieder, dass große Hyperscaler alternative Energiequellen prüfen. So hat Microsoft kürzlich einen Deal mit Constellation Energy über die Wiederinbetriebnahme eines 835 Megawatt (MW) Kernreaktors am Standort Three Mile Island in Pennsylvania bekannt gegeben.¹

Diese Vereinbarung unterstreicht das Ausmaß der Anstrengungen, die unternommen werden, um den wachsenden Energiebedarf der KI und die zunehmende Nutzung der Kernenergie als erneuerbare Quelle zu decken.  Dieser Schritt ist Teil des umfassenderen Engagements von Microsoft für seinen Dekarbonisierungspfad und zeigt, wie der Strombedarf der Unternehmen mit nachhaltigen Energielösungen einhergeht.

KI ist ein Bereich voller Nuancen und Grauzonen. Zu den wichtigsten Risiken, die es zu berücksichtigen gilt, gehört das Phänomen des Dual-Use. Dies wurde von einer Forschungsgruppe beispielhaft anhand einer KI-gesteuerten Wirkstoffforschungsplattform aufgezeigt, die ursprünglich dafür konzipiert war, nützliche Medikamente zu finden. Sie konnte aber auch leicht modifiziert werden, um schädliche Substanzen oder Biowaffen zu entwickeln.

Der Missbrauch von generativen KI-Tools stellt ein weiteres großes Problem dar. Zu den ersten Beispielen gehört Microsofts Chatbot Tay, der kurz nach seiner Veröffentlichung so manipuliert wurde, dass er Hassreden produzierte. Dieses Problem erstreckt sich auch auf ernste Bereiche wie Cyberkriminalität und unterstreicht, wie wichtig es ist, Sicherheitsaudits durchzuführen und Red Teaming zu betreiben, also Tools zu testen, indem man versucht, sie vor der Veröffentlichung zu hacken. So ist beispielsweise die umfassende Prüfung des neuesten Modells von OpenAI, das das GPT-4-System ersetzen wird, ein Beleg für die dringende Notwendigkeit solcher Vorsichtsmaßnahmen.

Anpassung der KI

Die KI mit dem Gemeinwohl in Einklang zu bringen, ist eine dauerhafte Herausforderung, wie das Gedankenexperiment des schwedischen Philosophen Nick Bostrom mit Büroklammern zeigt, das sich mit dem "Kontrollproblem" beschäftigt: Wie können Menschen eine superintelligente KI regulieren, die intelligenter ist als wir? Dies unterstreicht die Notwendigkeit, dass sich KI-Sicherheitsforscher, die unerwünschtes Verhalten von KI-Systemen verhindern wollen, kontinuierlich im Blick behalten müssen, dass die Ziele der KI mit den menschlichen Werten und dem gesellschaftlichen Nutzen im Einklang stehen.

Darüber hinaus lässt das Auftreten von Fehlern und Halluzinationen in KI-generierten Inhalten, wie z. B. der Chatbot-Vorfall von Air Canada, bei dem einem Reisenden falsche Informationen gegeben wurden, die Notwendigkeit einer größeren Transparenz bei KI-Entscheidungsprozessen erkennen. Die Probleme der Verzerrung (Bias) und der mangelnden Transparenz erschweren den verantwortungsvollen Einsatz von KI-Technologien weiter und erfordern konzertierte Anstrengungen, um kenntlich zu machen, wie KI-Modelle zu ihren Ergebnissen gelangen.

Letztendlich bedeutet der Weg zu einer verantwortungsvollen KI, ihr doppeltes Potenzial anzuerkennen, die wichtigsten Risiken durch strenge Sicherheitsmaßnahmen einzudämmen, den Einklang mit gesellschaftlichen Werten sicherzustellen und die Transparenz und Verantwortlichkeiten bei KI-Systemen zu verbessern.

KI – wie besorgt sollten wir sein?

Das Thema der existenziellen Risiken im Zusammenhang mit AGI, die sich aus der aktuellen Welle der Gen AI ergeben, nachdem die Stufe der menschlichen Intelligenz erreicht ist, bleibt ein heiß diskutiertes Thema. Die Besorgnis über AGI wird oft durch einen im Silicon Valley verwendeten Begriff "p doom" zusammengefasst, der sich auf die Wahrscheinlichkeit bezieht, dass KI die Menschheit übertreffen und uns möglicherweise versklaven könnte. Dieses Konzept wirft faszinierende theoretische Fragen auf. Die sogenannten Godfathers of AI, drei Forscher, die für ihre Beiträge mit dem Turing-Preis ausgezeichnet wurden, veranschaulichen das breite Meinungsspektrum hinter diesem Thema.

Yann LeCun, der bei Meta in der KI-Forschung tätig ist, hält die existenziellen Risiken von AGI für aher vernachlässigbar, vergleicht die Intelligenz aktueller KI-Systeme mit der einer Katze und tut Bedenken über existenzielle Risiken als unsinnig ab. Auf der anderen Seite verließ Geoffrey Hinton, eine bekannte Persönlichkeit in der KI-Community, Google, um seine Besorgnis über die rasante Weiterentwicklung der KI zum Ausdruck zu bringen, da er befürchtete, dass sie schließlich schlauer als die Menschheit werden könnte. Yoshua Bengio, ein weiterer prominenter Forscher, hat vor der möglichen Katastrophe gewarnt, die folgen könnte, wenn KI in naher Zukunft nicht reguliert wird. Angesichts ihrer Nähe zur KI-Forschung und -Entwicklung sollten ihre unterschiedlichen Perspektiven ernsthaft in Betracht gezogen werden.

Machtkonzentration

Einige argumentieren hingegen, dass die Fokussierung auf diese langfristigen existenziellen Risiken von AGI von unmittelbareren Sorgen ablenken könnte. Wenn man sich die Entwicklungen in den großen Technologieunternehmen in den letzten zwei Jahren ansieht, insbesondere in Bezug auf ihre Ethikräte und Sicherheitsteams, die sich mit verantwortungsvoller KI befassen, zeigen sich signifikante Veränderungen. Es gab Fälle, in denen KI-Ethikgremien aufgelöst, Teams beendet und Whistleblower Alarm in Bezug auf die Gefahren von KI geschlagen haben, angeheizt durch den Innovationsdrang innerhalb dieser Unternehmen (Abbildung 2).

Wir möchten jedoch darauf hinweisen, dass sich durch unsere Zusammenarbeit mit diesen Unternehmen gezeigt hat, dass sich KI von einem theoretischen Aspekt des Geschäfts zu einem zentralen Bestandteil ihres gesamten Geschäftsmodells entwickelt hat, was die Integration und Zentralisierung von Risikoaspekten erforderlich macht. Diese Verschiebung von theoretischen zu praktischen Bedenken hat dazu geführt, dass in vielen Unternehmen mehr Ressourcen für Sicherheitsbelange aufgewendet werden, da sich ein ganzheitlicherer Ansatz für KI in der Fusion und Integration von internen Gremien zeigt.

Eines der Themen, das uns am meisten beschäftigt, ist die Machtkonzentration im Bereich der KI. Dies ist kein neues Problem, da einige der größten Technologieunternehmen seit langem durch ihre marktbeherrschende Stellung, einzigartige Aktionärsstrukturen und den immensen Einfluss einer kleinen Anzahl von Personen gekennzeichnet sind, die diese Technologie und ihre zukünftige Ausrichtung kontrollieren. Diese Machtkonzentration ist ein bedeutendes Problem, das Beachtung verdient.

Innovation regulieren – das Gleichgewicht finden

Regierungen auf der ganzen Welt haben derzeit mit dem rasanten Wandel der KI zu kämpfen, was es schwierig macht, mit den regulatorischen Anforderungen Schritt zu halten. Auf Länderebene haben viele Regierungen vor allem prinzipienbasierte Formen der Regulierung verabschiedet. China zeichnet sich dadurch aus, dass es bereits recht strenge Vorschriften eingeführt hat, die mit empfindlichen Strafen einhergehen. Bis 2025 oder 2026 werden zahlreiche Länder voraussichtlich deutlich strengere Regulierungen einführen. Die Europäische Union (EU) hat mit dem EU AI Act, einem der bekanntesten KI-Gesetze, das bereits in Kraft getreten ist, einen bedeutenden Schritt getan. Es wird erwartet, dass sich die Auswirkungen in den USA in den nächsten ein bis zwei Jahren noch deutlicher zeigen werden.

In den USA gibt es derzeit keine bundesweite Regelung für KI, obwohl es lebhafte Debatten über mögliche neue Regulierungen gab, wie sie Kalifornien vorgeschlagen wurden. Dagegen wurde aber schließlich ein Veto eingelegt. Dieses Veto wurde von der Befürchtung beeinflusst, dass eine solche Regulierung die Innovation ersticken könnte, obwohl sie in der Öffentlichkeit stark unterstützt wird. Auf bundesstaatlicher Ebene beginnen sich jedoch Regulierungen abzuzeichnen. So hat New York beispielsweise Vorschriften in Bezug auf die Rekrutierung, Voreingenommenheit (Bias) und den Einsatz von KI eingeführt. Verschiedene andere Bundesstaaten haben indessen damit begonnen, eigene Maßnahmen umzusetzen. In Kalifornien werden Vorschriften, die nächstes Jahr in Kraft treten sollen, vorschreiben, dass Inhalte wie Bilder, die von KI erstellt wurden, mit einem Wasserzeichen versehen werden müssen, um eine Erkennung zu ermöglichen.

Während viele Länder eine Regulierungen der KI in Betracht ziehen, besteht auch der starke Wunsch, ein Hotspot für KI-Innovationen zu werden. Dies schafft eine Wettbewerbsdynamik und stellt einen echten Trade-Off dar, der insbesondere in der EU Debatten darüber auslöst, wie Regulierung und Innovationsförderung im Bereich der KI in Einklang gebracht werden können.

Reiten auf der Welle der KI-Innovation

Die Reise durch die sich entwickelnde KI-Landschaft offenbart eine Technologie mit dem Potenzial, jeden Bereich der Gesellschaft zu revolutionieren, vom Gesundheitswesen bis zum Transportwesen, und gleichzeitig erhebliche Herausforderungen und ethische Dilemmata mit sich bringt. Mit großen Chancen geht jedoch auch große Verantwortung einher.

Die unmittelbaren Bedenken zu Gen KI in Bezug auf die Machtkonzentration und die Notwendigkeit einer wirksamen Regulierung verdeutlichen das komplexe Terrain, auf dem wir uns bewegen. Die Maßnahmen, die von Regierungen, der Technologiebranche und der globalen Gemeinschaft in den kommenden Jahren ergriffen werden, werden entscheidend für die Gestaltung der Zukunft der KI sein. Diese werden sich jedoch in den verschiedenen Regionen aufgrund ihrer Vergangenheit unterschiedlich entwickeln, und zwar im Hinblick auf die politischen, kulturellen und regulatorischen Fundamente, die durch frühere IT-Wellen gelegt wurden. Regulatorische Entwicklungen sind komplex und müssen das Streben nach Innovation mit dem Gebot der Wahrung ethischer Standards und des gesellschaftlichen Wohlergehens in Einklang bringen.

Da wir an dieser technologischen Grenze stehen, erfordert der Weg in die Zukunft eine gemeinsame Anstrengung aller Beteiligten, um die transformative Kraft der KI zu nutzen. Es muss Transparenz hergestellt und es müssen Standards und Rahmenbedingungen gesetzt werden, die es uns allen zu ermöglichen, Herausforderungen zu überwachen, zu identifizieren und zu meistern, die sich unweigerlich aus den sich entwickelnden Anwendungsfällen der KI ergeben. Auf diese Weise können wir sicherstellen, dass KI in den Dienst der guten Sache gestellt wird, die menschlichen Fähigkeiten verbessert und eine gerechtere und nachhaltigere Zukunft für alle fördert.