KI - The last Invention
..... daß die Menschheit in der jetzigen Form um das Jahr 2050 aussterben wird. - Dan Brown, Origin.
Ein Kollektiv aus Wissenschaftlern ist sicher: 2050 könnte das Ende der Menschheit sein. - https://www.businessinsider.de/tech/f...
Es muss bemerkt werden, dass Friendly AI ein schwierigeres Projekt ist, als oft vermutet wird.
Wie unten ausgeführt wird, würden häufig vorgeschlagene Lösungskonzepte für Friendly AI
aufgrund von zwei Eigenschaften jeder Superintelligenz wahrscheinlich fehlschlagen:
1. Superkraft: Eine superintelligente Maschine wird beispiellose Kräfte haben, um die
Realität neu zu gestalten, und wird ihre Ziele deswegen mit hocheffizienten Methoden
erreichen, die menschliche Erwartungen und Wünsche zunichte machen.
2. Buchstabentreue: eine superintelligente Maschine wird Entscheidungen auf Grundlage
der Mechanismen treffen, die in ihrem Design stecken, und nicht auf Grundlage der
Hoffnungen, die ihre Konstrukteure hatten, als sie diese Mechanismen programmierten.
Sie wird einzig nach den präzisen Spezifikationen von Regeln und Werten handeln, und
wird dies in einer Weise tun, die die Komplexität und Subtilität[41][42][43] dessen, was
Menschen wertschätzen, nicht unbedingt respektiert. Eine Forderung wie „Maximiere
menschliches Glück“ klingt für uns einfach, weil sie wenige Worte enthält, doch
Philosophen und Wissenschaftler sind jahrhundertelang daran gescheitert, zu erklären,
was genau diese Forderung bedeutet, und noch viel weniger haben sie sie in eine Form
übersetzt, die ausreichend exakt ist, um von KI-Programmierern verwendet werden zu
könnten.