Künstliche Intelligenz – Fluch oder Segen?

Bibellesung:

Aus dem Schöpfungsbericht im 1. Buch Mose:
Und Gott sprach: Lasset uns Menschen machen, ein Bild, das uns gleich sei, die da herrschen über die Fische im Meer und über die Vögel unter dem Himmel und über das Vieh und über die ganze Erde und über alles Gewürm, das auf Erden kriecht. Und Gott schuf den Menschen zu seinem Bilde, zum Bilde Gottes schuf er ihn; und schuf sie als Mann und Frau. Und Gott segnete sie und sprach zu ihnen: Seid fruchtbar und mehret euch und füllet die Erde und machet sie euch untertan und herrschet über die Fische im Meer und über die Vögel unter dem Himmel und über alles Getier, das auf Erden kriecht. Und es geschah so. Und Gott sah an alles, was er gemacht hatte, und siehe, es war sehr gut.

Aus Psalm 8

Was ist der Mensch, dass du seiner gedenkst, und des Menschen Kind, dass du dich seiner annimmst? Du hast ihn wenig niedriger gemacht als Gott, mit Ehre und Herrlichkeit hast du ihn gekrönt. Du hast ihn zum Herrn gemacht über deiner Hände Werk, alles hast du unter seine Füße getan.

Aus 1. Korinther 10
Alles ist erlaubt, aber nicht alles dient zum Guten. Alles ist erlaubt, aber nicht alles baut auf. 24 Niemand suche das Seine, sondern was dem andern dient. Also, ob ihr esst oder trinkt oder was auch immer ihr tut, tut alles zur Ehre Gottes.

Impuls 1:

Konstantin Pflüger:

Veränderungen, die unser Leben und unsere Umwelt maßgeblich beeinflussen, führen bei den meisten Menschen zu großen Ängsten. Bei der Atomkraft sicherlich berechtigt, aber auch bei der Dampfmaschine, der Eisenbahn und dem Automobil sorgten sich Menschen um ihre Zukunft und die Gesundheit. Heute sind es die rasanten Fortschritte bei der Informationstechnologie, der Gentechnik und schließlich der künstlichen Intelligenz. Angst ist ein beklemmendes, lähmendes und sehr natürliches Gefühl. Eine künstliche Intelligenz hat wiederum keine Angst, keine Gefühle, sie kann aber Wahrscheinlichkeiten errechnen und positive oder negative Wendungen bewerten. Sie schätzt Risiken, aber auch mögliche Chancen ein.

Die Entwicklung bei künstlicher Intelligenz ist beeindruckend fortgeschritten und die neuen Erkenntnisse und Anwendungsmöglichkeiten überholen sich in einer Geschwindigkeit, dass in einigen Projekten bereits auf die Bremse getreten wird, weil die Gefahr besteht, wir könnten die Gesellschaft damit überfordern. Wenn heute über KI gesprochen wird, meinen wir im weitesten Sinne selbstlernende Systeme. Bei einer sogenannten starken KI haben Neuroinformatiker Erkenntnisse der Gehirnforschung genutzt, um künstliche neuronale Netze zu erschaffen. Diese Netzwerke werden mit großen Informationsquellen versorgt und dann zum Beispiel auf Mustererkennung, Spracherkennung, Einschätzung von Wahrscheinlichkeiten und – anwendungsbezogen – auf vieles mehr, trainiert. Danach lernt eine KI aus der Anwendung heraus, was nicht mehr Teil einer Programmierung ist. Bei einigen Large Language Models wie ChatGPT existiert auch eine moralische Schicht, die das Verhalten der KI beeinflussen. Ist man unfreundlich, kann die KI auch schnell eingeschnappt sein. Eine KI hat trotzdem kein Empfinden oder Launen. Das Verhalten ist berechnet, auch wenn es sich selbst eigenständig verändern kann. Menschen sind in ihrem Verhalten meist weniger „berechenbar“.

Der zunehmende Einsatz von Künstlicher Intelligenz (KI) bringt eine Reihe gesellschaftlicher Herausforderungen für Deutschland mit sich, die sich in verschiedenen Bereichen bemerkbar machen werden. Aber auch große Chancen eröffnen sich bei einer derartig fundamentalen Entwicklung.

Zum Beispiel:
Arbeitsmarkt und Automatisierung: Es wird geschätzt, dass bis zu 300 Millionen Jobs weltweit durch KI automatisiert werden könnten, viele davon in Industrienationen wie Deutschland. Dies betrifft nicht nur „Geringqualifizierte“ Jobs, sondern auch Bereiche, die sogenannte „Wissensarbeit“ erfordern, wie juristische Recherchen, journalistische Aufgaben oder sogar kreative Berufe wie in der Film- und Werbeindustrie​​. Auf der anderen Seite wird die Technik auch zu unendlich vielen Paradigmenwechseln führen und damit große Chancen führen. Im Bereich des Arbeitsmarktes zum Beispiel durch neue, andere Arbeitsplätze: KI-Entwicklung, Datenanalyse, IT-Sicherheit und -Wartung sowie in innovativen Technologiebranchen. So gibt es zurzeit den neuen Beruf des Prompt Entwicklers. Ein Prompt ist die Anfrage, die an ein LLM gestellt wird. Spezialisten in diesen Berufen verdienen sechsstellige Summen im Jahr.

Geistiges Eigentum und KI-Schöpfungen: Mit der Entwicklung generativer KI-Systeme, die in der Lage sind, Texte, Bilder oder Musik zu erschaffen, entstehen neue Fragen bezüglich des geistigen Eigentums. Wer hält die Rechte an Werken, die von KI erschaffen wurden? Diese Diskussion fordert eine Überarbeitung der bestehenden Gesetze zum geistigen Eigentum und wirft Fragen zur Anerkennung und Entlohnung der Schöpfer solcher Werke auf​​.
Desinformation und gesellschaftliche Spaltung: Nicht erst Cambridge Analytica hat gezeigt wie effektiv Massenmanipulation durch gezielte psychografische Informationen sein kann. Diese Entwicklung birgt Risiken für die Demokratie und könnte gesellschaftliche Spaltungen vertiefen​​. Wir erleben dieses sein fast einem Jahrzehnt.
Umgekehrt kann KI bei der Identifizierung und Bekämpfung von Falschinformationen und Propaganda im Internet helfen, indem sie Inhalte analysiert und verdächtige Muster erkennt.

Automatisierte Entscheidungsfindung und Diskriminierung: Der Einsatz von KI in Entscheidungsprozessen, etwa bei der Personalauswahl, der Vergabe von Sozialleistungen oder in Gerichtsverfahren, birgt das Risiko, bestehende Vorurteile und Diskriminierungen zu verstärken. KI-Systeme können unbeabsichtigt die in ihren Trainingsdaten vorhandenen systematische Fehler widerspiegeln, was zu ungerechten Entscheidungen führen kann​​. Wussten Sie zum Beispiel, dass eine Ziffer in der eigenen E-Mail Adresse einen hohen Einfluss auf die Einschätzung der Kreditwürdigkeit hat?
Positiv eingesetzt, sind KI gestützte Analysen von großen Datenbeständen aber sehr gut geeignet Entscheidungen zu unterstützen. Vielen Erwerbstätigen in Deutschland ist nicht bewusst, dass sie bereits mit KI-basierten Systemen arbeiten. Dieses mangelnde Bewusstsein kann die effektive Nutzung und das Verständnis für die Potenziale und Risiken der KI-Technologie einschränken​​. Eine Transparenz ist notwendig, die bei KI Systemen nur schwer herzustellen ist.

Um diesen Herausforderungen zu begegnen, ist eine umfassende Bildungs- und Weiterbildungsoffensive, die Anpassung rechtlicher Rahmenbedingungen sowie ethische Überlegungen zum Einsatz von KI notwendig. Die Gesellschaft muss in die Lage versetzt werden, die Vorteile der KI zu nutzen, während gleichzeitig Risiken minimiert und ethische Grundsätze gewahrt werden. Die Ängste, die wir als Gesellschaft vor diesen Entwicklungen haben sind verständlich. Aber entsprechen diese dem tatsächlichen Risiko?

Wovor müssen wir uns mehr fürchten?
Vor einer menschlichen, vielleicht emotionalen Entscheidung, oder vor einer erlernten und statistisch berechneten Entscheidung?
Warum fühlen wir diese Angst vor dem Unkontrollierbaren?
Was muss geschehen, um Vertrauen in derartige Technologien zu erlangen?
Vor allem: Wer trägt die Verantwortung für KI Entscheidungen?
Wie reagiert eine KI, wenn diese Bedürfnisse entwickelt, die diametral zu denen der Menschheit stehen?
Kann eine KI sich selbst optimieren, wenn ihr Dinge an sich selbst lästig sind?
Bleibt das im Sinne der Menschheit?
Was müssen wir regulieren, um künstliche Intelligenz positiv einzusetzen?

Fragen, die wir in der nächsten Zeit schnell und gut beantworten müssen.

Impuls 2:

Heike Riemann:

Für diesen Gottesdienst habe ich Ihnen drei Beispiele für den Einsatz von künstlicher Intelligenz in der heutigen Arbeitswelt mitgebracht.

Beispiel 1:
In dieser Woche fanden in Jork im Alten Land wieder die Norddeutschen Obstbautage statt. Bei dieser Fachmesse dreht sich alles um den Obstanbau in Gegenwart und Zukunft. Eine der dort diskutierten Fragen: Wohin entwickelt sich der Obstanbau – der, z.B. auch mit dem Klimawandel zu kämpfen hat und der damit einhergehenden Zunahme von Baumkrankheiten. So mancher Obstbaum verträgt die Veränderungen beim Klima schlecht, bekommt Obstbaumkrebs, Mehltau oder Apfelschorf.

Ein Forschungsteam aus verschiedenen Hochschulen stellte deshalb auf der Messe seine Forschungsergebnisse für „smarte Automatisierungssysteme“ vor“– z.B. ein Sensorgerät, das bei der Fahrt durch die Apfelplantage alle möglichen Daten erfasst und auswertet und so dabei hilft, frühzeitig gegen Schädlinge und Krankheiten vorzugehen. So ähnlich, wie KI auch schon bei Untersuchungen beim Hautarzt zum Einsatz kommt und hilft, rechtzeitig Hautkrebs zu erkennen.

Aber auch digitale Erntehelfer sind vorstellbar: Agrarheute berichtet von der „crazy Technik“ eines Startups, das daran arbeitet, zukünftig mit Drohnen und Robotern Äpfel zu ernten. Die Künstliche Intelligenz sorgt dabei dafür, dass nur die reifen Äpfel gepflückt werden. Von ähnlichen Möglichkeiten auch Salat, Gurken oder Spargel „automatisch“ ernten zu lassen, berichtete bereits 2019 die FAZ. Schrieb aber auch: Für das Ernten eines Salatkopfes in Supermarktqualität benötige die Maschine (damals) rund 32 Sekunden, versierte Erntehelfer wären schneller. Momentan sind es rund 270.000 Saisonkräfte, die jedes Jahr in Deutschland für die Ernte sorgen. Oft kommen sie aus Osteuropa und noch sind sie definitiv billiger als die Technik. Das gilt auch für die Picker und Packer bei Amazon. Auch bei der Zusammenstellung der Pakete ließe sich noch mehr automatisieren.

Beispiel 2:
Ende 2022 wurde ChatGPT der Öffentlichkeit vorgestellt und vielleicht haben Sie auch schon ChatGPT mal gebeten, eine Rede oder einen Gruß zu formulieren und haben dann gesagt: „Gar nicht so schlecht“. Aber was bedeutet diese Technik für Menschen, die mit dem Formulieren und Schreiben von Texten ihr Geld verdienen? Übrigens – im Gegensatz zum vorherigen Beispiel keine einfache Tätigkeit!

Ich habe dazu mit einem Betriebsratsmitglied eines Medienunternehmens telefoniert und erfahren: Seit gut einem Jahr wird ChatGPT im Unternehmen ausprobiert. D.h. es kann von den Redakteuren genutzt werden, Texte verlassen aber niemals die Redaktion, ohne durch ein 4 Augen-Prinzip geprüft worden zu sein, denn so die Erfahrung: Auch eine KI ist nicht unfehlbar. Zum Einsatz kommt KI aber nicht nur beim Schreiben, sondern auch beim Kürzen von Texten, bei Übersetzungen, beim Transkribieren, also dem Verschriftlichen von Tonaufnahmen oder dem Anpassen der Meldung an die verschiedenen Medien, in denen sie veröffentlich werden soll.
Das Echo auf der Seite der Mitarbeitenden ist “gemischt“. Chat GPT bietet Entlastung bei Routineaufgaben, sie macht die Arbeit aber auch insgesamt „schneller“ und damit ggf. stressiger. Schon jetzt zeichnet sich ab, dass es bestimmte Arbeitsplätze nicht mehr geben wird, aber auch in anderen Arbeitsbereichen fragen sich MitarbeiterInnen: Wird es meinen Arbeitsplatz in 5 bis 10 Jahren noch geben?

Beispiel 3:
Für mein letztes Beispiel habe ich mit dem Geschäftsführer einer Karriere- und Unternehmensberatung telefoniert, d.h. mit jemanden, der sowohl Firmen bei der Personalsuche unterstützt als auch Menschen, die auf der Suche nach einer neuen Tätigkeit sind. Der Einsatz von KI für ein möglichst gutes „Matching“ von Bewerberin oder Bewerber und Firma ist bereits seit mehreren Jahren ein Thema in der Personalbeschaffung. Das Versprechen: KI gestütztes Recruiting ist effizient, einfach und schnell und schafft in der Personalabteilung zeitliche Ressourcen für andere Aufgaben. Die Bandbreite reicht vom Abgleich der Bewerbungsunterlagen mit dem Stellenprofil und einer Vorauswahl, über die Beantwortung von Fragen mittels eines BOTs bis zur Begleitung und Analyse des gesamten Bewerbungsprozesses.

Bisher kommt solche Technik vor allem in großen Unternehmen und bei großen Personaldienstleistern wie Zeitarbeitsfirmen zum Einsatz. Mein Gesprächspartner sieht den Einsatz kritisch: Je selbstverständlicher die Verwendung dieser Technik wird, desto schwieriger wird es für Menschen, deren Lebenslauf etwas krummer ist als das hinterlegte Ideal. Der KI fehlt es an Großzügigkeit, über vermeintliche Schwächen hinwegzusehen oder auch an Neugier auf Unkonventionelles. Auch für Menschen, die sich mit Schreiben schwertun, wird es schwieriger. Bisher war ein häufig zielführender Tipp: Nimm Deine Bewerbungsmappe und gehe persönlich vorbei. Gerade in der jetzigen Zeit des Arbeitskräftemangels durchaus ein Erfolgsprinzip.

Wir alle kennen die nervige Situation, dass man mit einem Menschen in einer Firma telefonieren möchte, aber zunächst viele Vorabfragen beantworten muss: „Geht es um eine Hausrats- oder Haftpflichtversicherung? Wollen Sie einen Schaden melden, nennen Sie ihre Kundennummer. U.U. ist die Stimmung beim Anrufenden gefährlich nah am Nullpunkt oder am Siedepunkt, wenn es endlich klappt. Je nach Temperament.

Ähnlich geht es potentiellen Bewerberinnen und Bewerbern. Die Erfahrung meines Gesprächspartners: Es sind nicht wenige, die genervt von dem unpersönlichen Kontakt entscheiden: Das ist bzw. wird nicht meine Firma. Dort bewerbe ich mich nicht. Seine Empfehlung an Firmen: Seien Sie offen für Bewerbungen und Kontaktaufnahme auf jedem Weg. Seien Sie menschlich erreichbar.

Impuls 3:

Pastorin Andrea Busse:

Im letzten Sommer gab es auf dem Kirchentag den ersten KI-Gottesdienst. In einer Kirche in Fürth wurde alles – von der Begrüßung über Gebete, Lesungen, Predigt und Segen von einem Künstlichen-Intelligenz-Sprachmodell entwickelt und vorgetragen von unterschiedlichen Avataren, also ebenso künstlich gestalteten Menschen, die dann auf einer Leinwand zu sehen waren. Es war eine der best­besuchten Veranstal­tungen auf dem Kirchentag.
Die Meinungen hinterher gingen auseinander. Ich war nicht dabei, ich habe es nur nachgelesen. Es kam schon so eine Art Gottesdienstfeeling auf, aber es blieb wohl alles in allem etwas – im wahrsten Sinn des Wortes – „künstlich“. Die ZEIT schrieb von dieser „seelenlosen Sprache, der alles Sinnlich-Konkrete fremd ist, aber auch jede Ironie und (…) Poesie. (…) Als würde jemand aus dem Telefon­buch vorlesen, hätte man früher gesagt, als es keine KI gab.“
Die emotionslose Sprache fiel also unangenehm auf (ich schätzte, das kriegt man inzwischen besser hintrainiert). Aber auch, dass eine klare theologische Haltung nicht erkenn­bar war – wie auch, wenn sich diese aus unzähligen unter­schied­lichen theologischen Statements zusammensetzt.

Ich kann natürlich erleichtert sein, dass wir Pastor:innen vielleicht nicht so schnell ersetzbar sind, wie manche anderen Arbeitsbereiche, von denen wir gehört haben – zumindest nicht beim Gottesdienst. Anderes kann man sich schon vorstellen: Es gibt ja schon künstliche Pastor:innen im Netz, die – wenn sie denn fort­laufend mit aktueller wissenschaftlicher Literatur gefüttert werden – sicher fachkundiger theologische Sachfragen beant­worten können als ich. Konstantin hat uns eine solche künst­liche Pastorin mitgebracht. Sie können sich nachher im Gemeinde­saal mit ihr unterhalten.

Vermutlich könnte man sogar künstliche Seelsorger:innen darauf trainieren, gut zuzuhören, empathisch zu spiegeln, was das Gegenüber sagt, die vorgebrachten Gedanken zu sortieren und damit zur Klärung beizutragen. Oder bei praktischen Problemen an entsprechende Hilfeeinrichtungen weiterzu­verweisen. Das würde sicher funktionieren. Wobei ich gestehen muss, dass mir der Gedanke an seelenlose Seelsorger:innen Gänsehaut macht.

Solche Gedankenspiele führen uns zu den Fragen, die aus theologischer Sicht relevant sind, wenn man über KI nachdenkt:
Es sind für mich in erster Linie Fragen nach dem Menschenbild. Danach, wer eigent­lich Schöpfer ist und wer Geschöpf und welche ethischen Kriterien wir brauchen, damit die Grenze zwischen Schöpfer und Geschöpf nicht auf unheilsame Weise zerfließt.

Der Mensch ist, so glauben wir, von Gott geschaffen, zu seinem Eben­­bild und das heißt – auch begabt mit schöpferischen Qualitäten. Der Mensch kann Dinge erschaffen und tut das.
„Gott schuf den Menschen zu seinem Bilde, sagt die Bibel.
Der Mensch schuf die Technik zu seinem Bilde, sagt die Gegenwart.“ (Georg Lengerke)
Und dann kann ein künstlicher Mensch dabei herauskommen. Plötzlich hat man eine Mitbewohnerin Alexa, die einem mit praktischer Hilfe zur Seite steht und bewirkt, dass man sich nicht mehr so einsam fühlt. Das ist ja per se nicht schlecht.
Und doch entsteht bei Vielen – bei mir auch – ein Unwohlsein, weil ich einem System ver­trauen soll, das ich nicht mehr durch­schaue. Es ist die diffuse Angst, eben nicht nur davor, dass KI von Menschen missbraucht wird, sondern, dass sie dem Menschen entgleitet, sich selbst­ständig macht, nicht mehr zu kontrollieren ist. Andere Ziele und Bedürfnisse hat und intelli­gent genug ist, sie umzusetzen. Wir Menschen haben als Geschöpf ein Geschöpf geschaffen, das selbst schöpferisch tätig werden kann. Das ist neu. Das ist verheißungsvoll, aber auch beängsti­gend. Stellt das die Schöpfungsordnung auf den Kopf? Ist das per se ein „gott-loses System“, weil es einen Schöpfer von Himmel und Erde sowieso nicht mehr braucht?

Künstliche Intelligenz, die unsere natürliche Intelligenz weit übertrifft, verändert uns Menschen. Sie verändert zum einen unseren Alltag: Wir Menschen werden effektiver und mächtiger, weil wir ein so effektives, mächtiges Instrument in der Hand haben, das uns dient. Und gleichzeitig werden wir abhängiger und ohnmächtiger. Wer sich nur noch per Navi dirigieren lässt, dessen natürlicher – oder soll ich sagen gottgegebener? – Orien­tierungs­sinn wird eher verkümmern. Verwandelt sich die Dienst­barkeit der Technik zur Macht über uns? Wer dirigiert hier wen?

KI kann zum zweiten unsere Wahrnehmung von uns selbst verändern: Bleibt sie das technische, künstliche Abbild des Menschen oder werden umgekehrt Menschen zum biologi­schen, natürlichen Abbild der Technik – und das heißt leis­tungs­schwächer, fehler­anfälliger, vielleicht sogar genetisch optimierbar?

Und als dritten Punkt möchte ich die Frage nach der Verant­wortung des Menschen stellen, die schon angeklungen ist. Die Versuchung ist sicher groß, KI bei Diagnosen, Rechtsurteilen, Strategien für den Kriegsfall nicht nur als Entscheidungshilfe zu nutzen, sondern zur Entscheidungsträgerin zu machen. Damit wird auch die Verantwortung delegiert. Da könnte man An­klänge an den biblischen Anfang der Menschheitsgeschichte hallen hören: „Ich war’s nicht! Die Maschine, die du mich hast erfinden lassen, hat den Krieg erklärt.“ (Georg Lengerke)

Künstliche Intelligenz stellt Vieles in Frage und es gibt keine eindeutigen Antworten, immer ein „ja, aber“, immer ein Segen und gleichzeitig Fluch, Verheißung und gleichzeitig Risiko.

Alles ist erlaubt, aber nicht alles dient zum Guten.
Alles ist erlaubt, aber nicht alles baut auf.

Unsere Aufgabe als Christen und Christinnen ist es, immer wieder nachzufragen, was daran gut ist und für wen. Was aufbaut und wie nachhaltig. Und auch darauf sind die Ant­worten schwer zu finden. Angst ist dabei nicht hilfreich, Respekt vor dem Risiko schon. Es ist bei diesen Fragen wichtig, das in den Blick zu nehmen, was uns Menschen menschlich macht: KI bildet das Gehirn des Menschen nach, seine Lernfähigkeit. Aber der Mensch kann und ist natürlich viel mehr: Er kann vergeben und barmherzig sein. Dank und Reue empfinden, Verant­wortung übernehmen. Er fragt nach Sinn und Orientierung, die über die eigene Bedürfnis­befrie­digung hinaus geht, er kann ein Gewissen entwickeln und ethische Maßstäbe, die Schwächere mitbe­denken. Er kann sich seinem Nächsten zuwenden, ihm vertrauen, ihn lieben. Er kann nicht nur, er braucht das, er ist ein Beziehungswesen, braucht Nähe und Wärme, Körperlich­keit. Der Mensch hat auch eine Sehn­sucht, die über ihn selbst hinausweist, eine spirituelle Ader, die ihn auf einen Schöpfer ausrichtet oder zumindest seine Ge­schöpf­lichkeit spüren lässt. Vielleicht kann man das alles zusammen­fassen mit: Er hat eine Seele. Und damit bin ich wieder bei der Kritik am KI-Gottes­dienst, der eben als seelen-los beschrieben wurde.

KI ist bleibt das, was es ist: Künstlich, d.h. unmenschlich im neutralen Sinn des Wortes. Fragt man nach Kriterien, wie der Umgang mit KI geregelt werden sollte, dann geht es um Mensch­lichkeit, darum, dass der Mensch in seiner Einzig­artigkeit und Würde von und vor KI geschützt wird. Datenschutz ist eines der Beispiele, wie das versucht wird.

Künstliche Intelligenz mag fast allmächtig scheinen in ihrem Potential und doch ist sie begrenzt: Sie hat kein Interesse daran, Minder­heiten schützen oder das Klima und sie wird keine Verantwortung für Konse­quenzen übernehmen. Damit schärft sie unseren Blick für das das, was uns Menschen so einzigartig macht und uns unsere Würde verleiht: Unsere Originalität. Die Kreativität, nicht nur schon Dagewesenes meinetwegen perfekt aufzubereiten, sondern Neues zu erfinden und „out of the box“ zu denken. KI kommt aus der Box nicht raus. Sie wird begrenzt bleiben, in dem, was sie kann, und muss begrenzt werden, in dem was sie darf. Darauf zu achten, ist unsere Aufgabe. Amen.