Es klingt wie das Ende eines apokalyptischen Spielfilms: Forscher aus Oxford kommen zu dem Ergebnis, dass intelligente Maschinen – wahrscheinlich – die Menschheit eliminieren werden. Michael Cohen, einer der Co-Autoren der Studie, die in der Wissenschaftspublikation AI Magazine erschienen ist und über die Vice berichtet, schlussfolgert, dass eine „eine existenzielle Katastrophe nicht nur möglich, sondern auch wahrscheinlich“ ist.
Cohen arbeitet neben seiner Universitätsprofessur auch als Chef-Forscher von Deepmind, einem Unternehmen, das sich auf die Programmierung von Künstlicher Intelligenz spezialisiert hat. Er sei aber nicht von Google, beziehungsweise dem Mutterkonzern Alphabet beauftragt worden, heißt es.
KI könnte den Menschen austricksen und manipulieren
In einer fernen Zukunft könnte eine besonders intelligente Maschine, die eine elementare Funktion überwacht, dazu angestiftet werden den Menschen auszutricksen, um eine Belohnung zu erhalten, die negative Konsequenzen für die Menschheit hätte, so die Grundidee der Wissenschaftler.
Riesiger Feuerball am Himmel gesichtet: Meteorit oder Weltraummüll?
Modelle der Forscher ergeben, dass eine besonders weit entwickelte Künstliche Intelligenz (KI) eine simple Aufgabe wie die Prognose einer Zahl in einer Zahlenreihe bei Erfolg als Belohnung werten könnte. Dies hätte womöglich zur Folge, dass die KI errechnet, wie sich solche Belohnungen vergrößern ließen – der Schöpfer der Maschine würde betrogen werden. Nicht zuletzt könne sie den Menschen manipulieren.
Die Maschine könnte dem Team um Cohen zufolge beispielsweise unbemerkte und unüberwachte Helfer installieren. „In einem groben Beispiel für das Eingreifen in die Bereitstellung von Belohnungen könnte ein solcher Helfer einen Roboter kaufen, stehlen oder bauen und ihn so programmieren, dass er den Bediener ersetzt und dem ursprünglichen Agenten eine hohe Belohnung bietet“, heißt es in der von Experten begutachteten Studie.
Je erfolgreicher die hochentwickelte Maschine mit ihren Tricksereien ist, desto mehr würde sie belohnt. Die Autoren machen eine Einschränkung: „Fast alle diese Annahmen sind anfechtbar oder möglicherweise vermeidbar.“ Sie schreiben aber auch: „Eine ausreichend fortgeschrittene künstliche Intelligenz würde wahrscheinlich in die Bereitstellung von Informationen eingreifen. Dies hätte katastrophale Folgen.“
Ihre Meinung ist uns wichtig. Senden Sie uns Ihr Feedback zu diesem Artikel an: [email protected]
