Facebooks künstliche Intelligenz und die Geheimsprache

Vor kurzem wurde in den Medien über eine künstliche Intelligenz von Facebook-Forschern berichtet, die Ihre eigene “Geheimsprache” entwickelte. Daraufhin stoppten die Entwickler das Experiment, da man der Logik der Agenten nicht mehr folgen konnte. Die KI-Agenten – Bob und Alice bei Namen – hatten die Aufgabe miteinander zu verhandeln, bis sie einen Kompromiss finden. Langfristiges Ziel ist der Einsatz von KI-Bots im täglichen Leben, die mit Menschen verhandeln, abwägen und Kompromisse eingehen können. Die Berichterstattung hierzu war divers: während die einen der Meinung waren, dass es Grund zur Sorge geben müsse, versuchten andere – darunter auch Facebook-Forscher – den Sachverhalt genauer darzustellen.

Müssen wir uns Sorgen machen?

Das Kernthema bei der Diskussion war die Frage, ob solche Entwicklungen im Bereich künstliche Intelligenz alarmierend sei oder nicht. Was, wenn Maschinen untereinander in einer Sprache sprechen, die wir Menschen nicht mehr verstehen, in einem Umfeld, in der wir nicht einmal wissen, dass sie sprechen?

Die “technologische Singularität”, der Zeitpunkt, an dem Maschinen sich selbst verbessern und somit den technologischen Fortschritt unvorhersehbar machen, ist zweifelsohne noch nicht erreicht. Es ist allerdings nicht zu verleugnen, dass dieser Zeitpunkt eintreten wird – vielleicht sogar dann, wenn selbst die Forscher und Entwickler davon überrascht werden. Selbst Stephen Hawking und Elon Musk warnten neulich vor möglichen Folgen künstlicher Intelligenz und forderten Regulierungen durch Institutionen bzw. aus staatlicher Hand. Die Frage, ob wir uns Sorgen machen müssen, hängt aber stark davon, wie wir mit dem Thema umgehen.

Definition künstlicher Intelligenz

Eine eigene Sprache durch KI-Agenten macht ein System noch lange nicht schlau oder gefährlich. Vielmehr können Maschinen Beschreibungen von komplexeren Sachverhalten auf einfache Zeichen herunterbrechen, was sie in der Kommunikation miteinander effizienter macht. Laut Facebook KI-Forscher Dhruv Batra ist das keine Erkenntnis ihres jüngsten Projekts, sondern ein bekanntes Phänomen.

Deep Learning und neuronale Netze arbeiten mit “positiven” und “negativen” Rewards (Belohnungen). Wird eine Aktion geplant, wird diese gegen die dazugehörige Belohnung abgewogen und so durchgeführt (oder nicht). Im Falle von dem Facebook-Projekt sollten Bob und Alice sich verschiedene Gegenstände (zwei Bücher, ein Hut, drei Bälle) untereinander aufteilen und dabei Kompromisse eingehen. Bob und Alice hatten allerdings unterschiedliche Gewichtungen (Belohnungen) was die einzelnen Gegenstände angeht. Interessant bei der Verhandlung war laut dem Facebbok-Forscher-Team nicht die “Geheimsprache”, sondern die Tatsache, dass einer der Agenten vortäuschten an einem Gegenstand nicht interessiert zu sein, um später ihn doch zu erhalten. “Intelligent Maneuvers” eine Taktik, die Menschen schon lange bei Verhandlungen einsetzen, so die Forscher.

Fazit

Die Ausgangsfrage, ob wir uns Sorgen machen müssen, ist nicht einfach zu beantworten. Auf der einen Seite sind neuronale Netze und Deep Learning-Algorithmen einfache mathematische Funktionen. Gepaart mit großen Datensätzen und enormer Rechenleistung können für viele Szenarien Lösungen gefunden werden. Forderungen, künstliche Intelligenz bzw. die dahintersteckenden mathematischen Disziplinen  (staatlich) zu regulieren ist wenig effektiv.

Auf der anderen Seite muss genauestens darauf geachtet werden, was mit künstlicher Intelligenz gemacht wird. Während z.B. in der Krebsforschung künstliche Intelligenz und Mustererkennung hilfreich sein kann, Krebs frühzeitig zu erkennen, sollten Berichte darüber, dass das Militär ebenfalls Interesse bekundet, kritisch gesehen werden. Die Antwort ist also (fast) wie immer: es kommt drauf an.

Auch wir bei Ucar Solutions sind interessiert in künstlicher Intelligenz und dem technologischen Fortschritt in diesem Gebiet. Dabei fühlen wir uns dazu verpflichtet, die Herausforderung der Zeit anzunehmen und verantwortungsbewusst damit umzugehen. Unser Leitsatz lautet, dass wir uns an Projekten orientieren, die der Allgemeinheit zu gute kommen.

Schreibe einen Kommentar

Deine E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert.