Jack Clark, Mitbegründer von Anthropic, hat eine kühne Prognose abgegeben: KI-Systeme könnten ab 2028 in der Lage sein, sich selbst zu rekonstruieren. „Ich bin mir nicht sicher, ob die Gesellschaft darauf vorbereitet ist“, sagte er.
In einem am Montag auf Substack veröffentlichten Beitrag sagte Clark präzise, dass die Wahrscheinlichkeit, dass KI bis Ende 2028 zur rekursiven Selbstverbesserung fähig sein wird, bei 60 % liegt. „Mit anderen Worten: KI-Systeme könnten schon bald in der Lage sein, sich selbst zu bauen“, schrieb er.
Clark legte seine Argumentation dar und stützte sich dabei auf „Hunderte von öffentlichen Datenquellen“ und den Trend, dass Produkte von führenden KI-Unternehmen eingesetzt werden. Er ist überzeugt, dass die gesamte notwendige Infrastruktur bereits vorhanden ist, um die Forschung an KI-Systemen zu ermöglichen und deren Nachfolger zu entwickeln.
KI-Systeme benötigen nun weniger menschliche Aufsicht
Carks Argumentation beruht auf zwei Punkten. KI-Systeme sind deutlich leistungsfähiger im Schreiben und Testen von realem Code geworden. Außerdem können sie nun viel längerdentund ohne menschliche Aufsicht arbeiten.
Im Bereich der Programmierung verwies Clark auf SWE-Bench, eine weit verbreitete Bewertungsmethode, die testet, ob KI tatsächliche GitHub-Probleme lösen kann. Das beste Modell erreichte zum Zeitpunkt des Starts des Benchmarks im Jahr 2023 etwa 2 %. Heute erzielt Anthropics Claude Mythos Preview jedoch bis zu 93,9 %.
ist es derzeit noch nicht öffentlich verfügbar Cryptopolitan Laut.
Er zitierte außerdem Daten von METR, einer Organisation, die fortschrittliche KI-Modelle evaluiert, die zeigen, dass der Zeithorizont, in dem KI-Systeme zuverlässig ohne menschliches Eingreifen funktionieren können, von etwa 30 Sekunden im Jahr 2022 (GPT-3.5) auf etwa 12 Stunden im Jahr 2026 (Opus 4.6) angewachsen ist.
„Das ist eine große Sache“, sagt Jack Clark von Anthropic
Dies impliziert, dass KI-Systeme innerhalb von ein bis zwei Jahren so kreativ sein werden, dass sie eigene, neuartige Forschungswege beschreiten und ihre Nachfolger, insbesondere etablierte Modelle, ohne menschliches Zutun verfeinern und trainieren können. Bei etablierten Modellen könnte dies laut Clark deutlich schwieriger sein, da diese wesentlich teurer sind.
Wenn KI-Systeme ihre eigene Forschung und Entwicklung ohne menschliche Beteiligung durchführen können, würde das Tempo des KI-Fortschritts nicht länger durch die Anzahl der menschlichen Forscher oder die Länge des Arbeitstages begrenzt.
„Ich weiß nicht, wie ich das begreifen soll“, schrieb. „Es ist eine widerwillige Sichtweise, weil die Auswirkungen so weitreichend sind, dass ich mich ihnen gegenüber winzig fühle, und ich bin mir nicht sicher, ob die Gesellschaft für die Art von Veränderungen bereit ist, die die Erzielung einer automatisierten KI-Forschung und -Entwicklung mit sich bringt.“
Clarks Vorhersage deckt sich auch mit einer kürzlich gemachten Aussage des METR-Prognostikers Ajeya Cotra, dass KI-Systeme bis Ende dieses Jahres in der Lage sein sollten, Aufgaben autonom zu bewältigen, für die derzeit etwa 100 Stunden qualifizierter menschlicher Arbeitskraft erforderlich wären.
Im August sagte der Mitbegründer von Anthropic: „Jeder, der glaubt, die KI verlangsame sich, irrt sich gewaltig.“
Die klügsten Köpfe der Krypto-Szene lesen bereits unseren Newsletter. Möchten Sie auch dabei sein? Dann schließen Sie sich ihnen an.
