Facebook stoppt Künstliche Intelligenz, nachdem sie eigene Sprache entwickelt
Facebook muss zwei Bots „töten“, weil sie offenbar eine eigene Sprache entwickelt haben
Einige Experten halten diese Versuche mit Künstlicher Intelligenz für sehr gefährlich – für die Menschheit.
Getty Images, Carl Court
Teile diesen Beitrag mit Anderen:
Künstliche Intelligenz (KI) soll unser Leben vereinfachen. Doch was, wenn sich diese Intelligenz plötzlich verselbstständigt? Mit diesem Problem mussten sich nun Facebook-Mitarbeiter auseinandersetzen. Bei einem Experiment entwickelten die von Forschern geschaffenen Bots Bob und Alice plötzlich ihre eigene Sprache. Das ihnen beigebrachte Englisch erschien den beiden Bots demnach zu kompliziert, weshalb sie sie durch eine effizientere Geheimsprache ersetzten. Dadurch entstanden für den menschlichen Leser vorerst unlogische Konversationen zwischen Bob und Alice. Als die Facebook-Mitarbeiter die Nachrichten nicht mehr entschlüsseln konnte, zogen sie vorsichtshalber den Stecker der beiden Bots.
Grund für die anscheinend wirren Konversationen war ein Programmierfehler. Denn die Forscher verpflichteten Bob und Alice nicht dazu, das von ihnen eingestellte Englisch auch tatsächlich zu nutzen. Zur Arbeitsoptimierung hielten es die Bots dann lieber mit ihrer Geheimsprache. Ergebnis waren Sätze mit englischen Wortfetzen, Wiederholungen und nicht nachvollziehbaren Ausdrücken. Kleines Beispiel:
Bob: „I I can I I I everything else.
Darauf hin Alice: „Balls have a ball to me to me to me to me to me to me to me“
Total logisch also. Die Mitarbeiter konnten einige Nachrichten mit Wiederholungen von „I“ und „to me“ als Mengenangabe entschlüsseln – mehr allerdings nicht. Ob das alles also Sinn ergab, was die beiden Programme miteinander redeten, weiß man nicht. Aber man kann es eben auch nicht ausschließen. Eigentlich sollten die Bots jedoch lernen mit Menschen zu kommunizieren – und nicht nur untereinander.
Der Moment, an dem sich KI eigenständig verbessert und, wie in diesem Fall, eine eigene Sprache entwickelt, wird als Technologische Singularität bezeichnet. Was an Sci-Fi-Filme wie „iRobot“ und Co. erinnert, in denen sich Roboter verselbstständigen, könnte in Zukunft Realität werden. Wann diese Zukunft sein soll, weiß allerdings keiner so genau.
Das Thema künstliche Intelligenz beschäftigt auch großen Technologie-Unternehmen und Wissenschaftler wie Stephen Hawking – und führt zu hitzigen Pro-und-Contra-Debatten. Während Facebook-Chef Mark Zuckerberg beispielsweise trotz der Panne in der Künstlichen Intelligenz die Zukunft sieht, hält Tesla-Chef Elon Musk diese Art Technologie für eine Gefahr für die Menschheit. Während eines Treffens mit zahlreichen US-Gouverneuren auf Rhode Island bezeichnete er KI sogar als „größte Bedrohung, der wir als Zivilisation gegenüberstehen“. Zuckerberg hingegen sagt, wer sich gegen die Künstliche Intelligenz stelle, stelle sich auch gegen bessere Diagnosen bei Patienten sowie sicheres Autofahren.
Update: Laut aktuellen amerikanischen Medienberichten wurden die Bots nicht abgestellt, weil die Forscher die Nachrichten nicht mehr entschlüsseln konnten, sondern weil sie einfach den Sinn ihrer eigentlichen Aufgabe nicht mehr erfüllten. Ziel von Alice und Bob sei es laut Facebook gewesen, am Ende so mit Usern zu kommunizieren, dass diese gar nicht merken, dass es sich dabei um Roboter handelt. Da den Bots anscheinend aber von den Forschern nicht befohlen wurde, ausschließlich in Englisch zu kommunizieren, vereinfachten sie die Sprache in eine für sie logischere und effizientere. Diese Nachrichten waren für Menschen allerdings unverständlich. Deshalb gab es angeblich keine Verwendung mehr für Alice und Bob und sie wurden abgestellt.
