Ich würde sagen, mein Verhältnis zu diesem Thema ist sehr ambivalent, denn während ich überhaupt kein Freund dieser Forschung bin, finde ich sie denoch interessant.

Gäbe es so eine KI schon auf hohem Niveau, wäre wohl ein Szenario wie in der Terminator-Reihe sehr wahrscheinlich. Ich finde nicht die Tatsache allein gar nicht mal so schlimm, dass so eine selbstständig denkende künstliche Intelligenz, die eigene Entscheidungen trifft und viel schneller als wir dazulernt uns in kurzer Zeit überlegen wäre, es ist eher das Zusammenspiel mit dem "Faktor Mensch", das mich in dem Zusammenhang stört.

Ich schätze mal, bezogen auf das Vorhaben der Maschine in deinem Beispiel (Stichwort: ausschalten) fänden wir beide es intelligenter, friedlich zu koexistieren, aber die Welt zeigt, dass die Masse an Menschen da anders denkt, mal abgesehen davon, dass auch wir trotz aller guten Motive nun mal fehlerhaft sind. Nun würde jede später noch so überlegene und selbstständig denkende Intelligenz aber erstmal von Menschen programmiert werden und auch ein paar von deren Eigenschaften übernehmen, also nicht nur die positiven meine ich. Der Gedanke daran, dass eine von selbst lernende und selbstständig denkende KI mit menschlichen Schwächen sich in 1-2 Sekunden Wissen runterladen kann, für dessen Erlernen wir Monate bräuchten und eben so eine Intelligenz mit einer von nun mal unperfekten Wesen ausgestatteten Moral (oder Ethik-Programm) uns in kurzer Zeit hoffnungslos überlegen wäre ist etwas, was ich generell für sehr bedenkenswert halte und was diese Forschung in meinen Augen auch sehr gefährlich macht.

Du siehst, im Endeffekt muss man eine Sache nicht mal unterstützen, um sich für sie zu interessieren, allerdings ist für mich auch klar, dass dieses Thema zu einem der Bereiche gehört, über die man - wie wir gerade - zwar lange philosophieren könnte, von denen der Mensch aber gleichzeitig in seinem eigenen Interesse die Finger lassen sollte, auch wenn ich weiß, dass er das (leider) nicht tun wird.