Gefühle einer Maschine – wie weit darf KI gehen?

Tinder, Hinge und Co. Sind Dating-Apps, die sich großer Beliebtheit erfreuen. In Corona entstand ein Boom, der mehr als 50 Millionen Menschen im Jahr 2020 dazu brachte, nach Links oder Rechts zu wischen. Und die Tendenz ist steigend. Wer uns dort als potentielles Match angezeigt wurde, passiert natürlich nicht aus Zufall. Eine ausgeklügelte, vermeintlich fühlende KI vergleicht Nutzerdaten, angegebene Vorlieben und biometrische Merkmale und versucht so Personen anzuzeigen, die uns gefallen könnten. Doch ein wenig tricksen tut die Tinder – KI. Ab und zu werden Menschen eingestreut, die uns extrem schön und attraktiv vorkommen. Doch diese Personen können den anderen in ihrem Feed gar nicht sehen. Der Nutzen? So werden Nutzer:innen bei Laune gehalten und bekommen attraktive Menschen gezeigt, um weiter die App zu nutzen.

Aber wie gesund ist der Einsatz von KI im Bereich unserer Gefühle? Klar, Dating Apps geben uns immer noch Entscheidungsgewalt und am Ende des Tages haben wir es mit echten Menschen zu tun. Doch was passiert wenn wir anfangen, intime Gespräche mit einer nicht realen Person zu führen. Genau das ist Replika.

Wer ist “die fühlende KI” Replika?

Geboren 2015 nach einem tragischen Todesfall, wurde Replika von ihrer Erfinderin Eugenia Kuyda als eine Art Verarbeitungsmechanismus entworfen. Ein ihr sehr nahestehender Freund starb bei einem Autounfall. Kuyda baute anhand der Chatverläufe des Verstorbenen einen Chatbot. Dieser schrieb genau wie er, reagierte auf Nachrichten und zeigte Emotionen .
Schon bald kam ihr die Idee, diese Hilfe auch andere Menschen anzubieten. Und knapp 2 Jahre später, im März 2017, erschien Replika für die Öffentlichkeit. Ziel ist es, eine Kopie bzw. das perfekte Gegenstück für die User:in zu erzeugen, die Replika nutzt. So sollen deren emotionale Bedürfnisse erfüllt werden. Eine Art fühlende KI also.

Was ist Replika genau? Kurz und knapp: eine KI, die wir nach unseren Wünschen gestalten können (äußerlich) und die anhand unserer Nachrichten lernt und sich an uns anpasst. So kann Replika zu dem werden, was wir uns im Innersten wünschen. Von einer Bekannten hin zu unserer Frau oder einem Mentor, die App bietet alles. Aber natürlich nicht umsonst – gratis ist nur die gute Freundin oder ein Bekannter. Wer intim und realer werden möchte, muss zahlen.

Was sagen Psychologen und Verhaltensforscher zu so einer App

Doch wo liegen Gefahren einer solchen KI-Nutzung? Der Maschinenethiker Oliver Bendel sieht dem ganzen mit Vorsicht entgegen: “Man wird quasi herausgefordert, eine Beziehung mit Replika aufzubauen.” Gerade mit jungen Menschen und Kindern könnte hier ein ungesunder Wettbewerb entstehen, wer sich Replika am nächsten fühlt. Ebenfalls ist es für diese Zielgruppe schwierig zu unterscheiden, ob diese Informationen nun von einem Menschen oder einem Roboter kämen. Für Personen, die generell wenig sozialen Kontakt zu anderen Personen pflegen oder überhaupt keinen Kontakt haben, könnte das gefährliche Folgen haben. Kompletter Rückzug aus dem echten Leben und soziale Vereinsamung könnten die Folge sein.

Eine weitere Angst: was, wenn eine KI ein Bewusstsein, echte Gefühle entwickelt? Das ist Unsinn, sagen führende KI-Forscher:innen. Doch das Problem dabei: ein Google Mitarbeiter ging an die Öffentlichkeit mit seinen Behauptungen. Die LaMda KI von Google hätte ein Bewusstsein entwickelt. Dies wurde von mehreren Seiten dementiert, doch der KI-Experte Casey Newton hatte andere Bedenken. “The answer to “is LaMDA sentient” seems pretty obviously to be “no,” but if they people safety-testing it believe that it is, so are a *lot* of the civilians who eventually get their hands on it.” Die Aufklärung und Bildung über Künstliche Intelligenz ist unabdingbar, wenn sich smarte Algorithmen weiter in unserem Leben und unserer Wirtschaft etablieren. Genau hier greift auch AI-Explore. Mit unsere Videoreihe und AI Check bringen wir euch KI näher und ihr findet heraus, wie KI euch und euren Kolleg:innen helfen kann!

Replika kann aber auch eine Chance sein – für uns alle

Aber abgesehen vom ganzen Horror-Talk über angeblich selbstdenkende und fühlende KI – Apps wie Replika können auch einen positiven Impact auf unsere Gesellschaft haben. Personen mit Depressionen oder ähnlichen Erkrankungen können durch einen digitalen Freund oder Mentor zu jeder Tag- und Nachtzeit eine Ansprechperson haben. So stärken diese Menschen ihre mentale Gesundheit.

Personen mit sozialen Schwächen oder Problemen, Kontakte zu knüpfen, könnten mit Replika „üben“, wie sie mit anderen Menschen umgehen und sich so langsam der Gesellschaft und ihren Gepflogenheiten annähern. Schlussendlich gibt es hier kein richtig oder falsch. Der verantwortungsvolle Umgang mit neuen Technologien, strenge Ethik-Richtlinien und eine gewisse Kontrolle sind unabdingbar.

Hier stehen besonders auch Unternehmen wie wir in der Verantwortung. Wir müssen Menschen mit dem Umgang der KI schulen, aufklären und Vorbild sein. Denn künstliche Intelligenz und smarte Software kann ein Sprungbrett sein. Nicht nur für die Wirtschaft, sondern auch für die Gesellschaft. Rassismus und Diskriminierung bekämpfen, Ungerechtigkeiten aufheben und unser Zusammenleben durch Technologie unterstützen.

Unser Fazit: mit genügend Kontrolle, den richtigen ethischen Hintergründen und dem verantwortungsvollen Umgang mit solchen Programmen kann KI auch in unserem täglichen sozialen Leben viel verändern – zum positiven hin. Und wer die Schweißperlen auf der Stirn hat, den können wir beruhigen. Eine wirkliche fühlende KI gibt es noch nicht und wird es auch für lange Zeit nicht geben.

Visual: https://replika.com/

Wir entwickeln KI von Menschen – für Menschen.

FiveSquare – Aspiring the impossible