OpenAI stellt Superalignment vor: Wie KI menschlichen Absichten folgen kann
OpenAI hat das Konzept von Super Ausrichtung, ein bedeutender Fortschritt bei der Bewältigung der mit der Superintelligenz verbundenen Risiken. Superintelligenz gilt als die einflussreichste Technologie, die jemals von der Menschheit erfunden wurde, und könnte zur Lösung vieler der wichtigsten Probleme der Welt beitragen. Allerdings ist die enorme Macht der Superintelligenz Es könnte auch sehr gefährlich sein und zur Entmachtung der Menschheit oder sogar zum Aussterben der Menschheit führen.
OpenAI präsentiert Superalignment: den Versuch, künstliche Intelligenz mit der menschlichen Absicht in Einklang zu bringen
Auch wenn die Superintelligenz noch in weiter Ferne zu sein scheint, glaubt OpenAI, dass sie noch in diesem Jahrzehnt kommen könnte. Die Bewältigung dieser Risiken erfordert unter anderem Folgendes: neue Institutionen zur Governance und Lösung des Problems der Ausrichtung der Superintelligenz: Wie kann sichergestellt werden, dass KI-Systeme, die viel intelligenter sind als Menschen, den menschlichen Absichten folgen?
Derzeit gibt es keine Lösung zur Führung oder Steuerung eines Superintelligenzsystems. Aktuelle KI-Ausrichtungstechniken Sie verlassen sich auf die Fähigkeit des Menschen, die KI zu überwachen, die nicht auf Superintelligenz skalierbar sein wird. Das Ziel von OpenAI ist der Aufbau eines automatisierter Ausrichtungssucher auf menschlicher Ebene. Um dieses Ziel zu erreichen, müssen skalierbare Trainingsmethoden entwickelt werden.
Lesen Sie auch: KI und AGI: Google-CEO DeepMind prognostiziert einen baldigen Durchbruch
OpenAI stellt ein Team aus führenden Forschern und Ingenieuren für maschinelles Lernen zusammen, um an diesem Problem zu arbeiten. 20 % der verfügbaren Rechenleistung werden in den nächsten vier Jahren für die Lösung dieses Problems aufgewendet. Ziel ist es, die wichtigsten technischen Herausforderungen der Ausrichtung der Superintelligenz in vier Jahren zu lösen. OpenAI lädt alle, die beim maschinellen Lernen erfolgreich waren, dazu ein, ihre Aufmerksamkeit auf die Ausrichtung zu richten. Die Früchte dieser Bemühungen werden weit verbreitet sein, und die Ausrichtung und Sicherheit von Nicht-OpenAI-Modellen sind wichtig. Es ist zu beachten, dass das Unternehmen auch daran arbeiten wird, die Sicherheit aktueller Modelle zu verbessern und andere Risiken durch KI anzugehen.
Um die Ausrichtung der Superintelligenz zu lösen, sind die besten Köpfe der Welt erforderlich. Offene KI fördert die interdisziplinäre Zusammenarbeit und aktive Auseinandersetzung mit soziotechnischen Fragen im Zusammenhang mit der Ausrichtung der Superintelligenz.
