An einem Samstag im letzten Monat tauchten auf einer umgebauten Autoausstellung in San Francisco fünf Männer im Alter von 19 bis 26 Jahren souverän aus einer lila Rauchwolke auf. Sie saßen an einer Reihe von Computertastaturen und wurden von einer Menge von mehreren hundert Menschen laut begrüßt. Nach neunzig Minuten intensiver Mausklicks wurde das Lächeln der Fünf langweilig und der Applaus beruhigend. Team OG, der Weltmeister des profitabelsten Pflichtspiels der Welt, Dota 2, hat zwei Spiele hintereinander gegen ein Team von KI-Bots verloren.
Dieses Ergebnis ist bemerkenswert, da komplexe Videospiele mathematisch schwieriger sind als Brettspiele wie Schach oder Go. Und doch fühlte sich Sam Altman, CEO des OpenAI-Forschungsinstituts, das diese Bots entwickelt hatte, hinter den Kulissen an die Wand gelehnt und fühlte sich erleichtert.
Künstliche Intelligenz versus Doter
"Wir waren alle an diesem Morgen ziemlich nervös - ich dachte, die Chancen wären 60 bis 40", sagt Altman. Er wurde im März CEO von OpenAI, nachdem er als Präsident des einflussreichen Startup-Inkubators YCombinator zurückgetreten war. Um in seiner neuen Rolle erfolgreich zu sein, brauchte Altman Bots, die nicht nur Menschen in Videospielen besiegten - er brauchte Bots, die in allem besser waren als Menschen.
Die erklärte Mission von OpenAI ist es, sicherzustellen, dass jede zukünftige KI, die „Menschen in der kostengünstigsten Arbeit“übertreffen kann, der gesamten Menschheit zugute kommt. Solche Technologien - allgemeine künstliche Intelligenz, "starke" künstliche Intelligenz oder AGI - sind noch nicht einmal in Sicht, aber OpenAI behauptet, dass sowohl sie als auch andere rasch Fortschritte machen. Die Organisation hat gezeigt, dass sie Forschung auf dem Niveau der besten der Welt betreiben kann. Und sie hat Vorwürfe gewonnen, den KI-Hype gemacht zu haben und sich auf AGI und die potenziellen Bedrohungen durch KI festgelegt zu haben.
Altmans Plan ist, dass OpenAI-Forschung - und Provokationen - nur an Fahrt gewinnen sollten. Der frühere Vorsitzende des Board of Directors der Organisation übernahm die Geschäftsführung, nachdem er dazu beigetragen hatte, den Großteil der gemeinnützigen Mitarbeiter in ein neues Handelsunternehmen zu verlegen, in der Hoffnung, Investoren mit den Milliarden anzulocken, die für die Gestaltung des Schicksals von KI und Menschlichkeit erforderlich sind. Altman sagt, dass die großen Technologielabors bei Alphabet und anderswo unter dem Druck von Kollegen stehen sollten, die ihren Shareholder Value nicht steigern wollen. "Ich möchte nicht in einer Welt sein, in der ein Unternehmen AGI schafft, seinen gesamten Wert erfasst und alle Entscheidungen trifft", sagt er.
Werbevideo:
Bei einer MIT-Veranstaltung Ende 2014 beschrieb Elon Musk, CEO von Tesla, die KI-Forschung als einen Versuch, "einen Dämon zu beschwören". Im Sommer 2015 sprach er beim Abendessen mit Altman und mehreren anderen und schlug vor, ein vom Technologiesegment unabhängiges Forschungslabor einzurichten, das die KI in eine positive Richtung lenken soll. Im selben Jahr wurde OpenAI gegründet, in dem sich Altman und Musk befanden. Anfang 2018 verließ Musk den Verwaltungsrat und verwies auf mögliche Konflikte mit seinen anderen Rollen.
OpenAI hat sich in seiner kurzen Lebensdauer als ernstzunehmender Ort für die KI-Forschung positioniert. Ilya Sutskever, Mitbegründerin der Organisation, die von der Führungsposition für KI-Forschung bei Google zurückgetreten ist, beaufsichtigt Mitarbeiter, zu denen ehemalige Mitarbeiter von Google, Facebook, Microsoft und Intel gehören. Ihre Arbeiten zu Robotik und maschinellem Lernen wurden auf den renommiertesten Konferenzen veröffentlicht. Der Sieg über das OG-Team in Dota 2 brachte ihnen Respekt im Bereich KI und Gaming ein.
Die Umwandlung von OpenAI in ein kommerzielles Unternehmen wurde von dem Gefühl angetrieben, dass der Zugang zu ständig wachsenden Computerressourcen erforderlich sein würde, um mit Giganten wie Alphabet Schritt zu halten. Im Jahr 2015 gab OpenAI bekannt, dass Altman, Musk, LinkedIn-Mitbegründer Reid Hoffman, der frühe Facebook-Investor Peter Thiel und Amazon 1 Milliarde US-Dollar in bar zur Verfügung hatten. Jetzt sagt Altman, eine Milliarde würde nicht ausreichen. "Die Menge an Geld, die wir brauchen, um die Mission erfolgreich zu machen, ist viel mehr als ich dachte", sagt er.
IRS-Einreichungen zeigen, dass OpenAI 2017, als es seinen ersten Dota-Bot enthüllte, 8 Millionen US-Dollar für Cloud Computing ausgab. Seitdem sind ihre Ausgaben wahrscheinlich erheblich gestiegen. Im Jahr 2018 gab OpenAI bekannt, dass der Vorgänger des Systems, das OG besiegte, über einen Zeitraum von Wochen mehr als 120.000 Prozessoren miteinander verband, die von der Cloud-Abteilung von Google geleast wurden. Die Sieger-Version wurde 10 Monate lang trainiert, was 45.000 Jahren entspricht, in denen Dota 2 gegen sich selbst gespielt wurde. Wie viel hat es gekostet? Greg Brockman, CTO von OpenAI, sagt, das Projekt habe "Millionen von Dollar" gekostet, aber keine Details bekannt gegeben.
Altman ist nicht davon überzeugt, dass OpenAI weiterhin auf konkurrierende Cloud-Dienste angewiesen sein wird - es steht weiterhin offen, Hardware für künstliche Intelligenz zu kaufen oder sogar zu entwickeln. Die Organisation überwacht genau, welche neuen Chips von Google und einer Vielzahl von Startups entwickelt werden, um noch mehr aus Algorithmen für maschinelles Lernen herauszuholen.
Um die Mittel für den Zugang zu künftiger Ausrüstung aufzubringen, versuchte Altman, die Idee an Investoren in einem Programm zu verkaufen, das selbst im Silicon Valley wild wäre. Wenn Sie in OpenAI investieren, warten Sie, und das Unternehmen wird Ihre Investition hundertfach zurückzahlen - sobald es Roboter erfindet, die den Menschen bei den wirtschaftlich wertvollsten Aufgaben übertreffen.
Altman sagt, diese Erwartungen zu erfüllen sei "das interessanteste Fundraising-Erlebnis meines Lebens gewesen - es passt zu keinem anderen Modell." Das größte Interesse, sagt er, kommt von den reichen Leuten, die sich für KI interessieren. Hoffman und die Risikokapitalgesellschaft Khosla Ventures haben in eine neue kommerzielle OpenAI investiert, jedoch nicht auf Anfragen nach Kommentaren reagiert. Niemand sagt, wann eine Rückerstattung zu erwarten ist, aber Wetten auf OpenAI sind nichts für Ungeduldige. Unternehmen wird mitgeteilt, dass ihre Rückerstattungszeiten den Industriestandard (zehn Jahre) überschreiten können. "Wir sagen ihnen sofort, dass Sie in den nächsten 10 Jahren kein Geld erhalten werden", sagt Altman.
Trotz aller Bemühungen wird OpenAI häufig von Branchenführern kritisiert. Im Februar enthüllte das Unternehmen Details zu Sprachverarbeitungssoftware, mit der überraschend Live-Text generiert werden konnte. Einige nannten die Erfindung sofort "gefährlich" und äußerten Bedenken, dass sie den sozialen Netzwerken von Müll schaden könnte.
Einige prominente Leute auf dem Gebiet der KI-Forschung waren verärgert, darunter der Facebook-KI-Chef Ian Lekun. In seinen Beiträgen auf Facebook verteidigte er die offene Veröffentlichung von KI-Forschungen und scherzte, dass Menschen keine Kinder mehr haben sollten, weil sie eines Tages gefälschte Nachrichten veröffentlichen werden.
In dieser Folge wurde für einige hervorgehoben, dass sich die Mission von OpenAI nicht wesentlich von anderen Unternehmens- oder akademischen Labors unterscheidet. "Sie machen, geben oder nehmen die gleiche Forschung wie die anderen, aber sie wollen Milliarden von Dollar sammeln", sagt Zachary Lipton, Professor für maschinelles Lernen an der Carnegie Mellon University. "Der einzige Weg, dies zu tun, besteht darin, dein Herz ein wenig zu verdrehen."
Altman gibt zu, dass OpenAI den Alarm möglicherweise zu früh ausgelöst hat, sagt aber, dass es besser ist, als zu spät zu kommen. "Die Tech-Industrie hat nicht sehr gut versucht, proaktiv gegen Missbrauch vorzugehen", sagt er. Selbstzensur wird von OpenAI selbst verlangt.
Nach der Niederlage von OG im letzten Monat beschloss OpenAI, ein zweites Experiment durchzuführen, um die gute Seite der übermenschlichen KI zu demonstrieren. Dota 2-Experten und einige Neulinge spielten neben Bots in Teams.
Die Software, die das Pech hat, Teamkollegen der Noobs zu werden, hat größtenteils eine übermenschliche Gleichgültigkeit gegenüber der Unterstützung des Anfängers gezeigt. Stattdessen konzentrierte es sich auf das Gewinnen nach Instinkten, die durch monatelanges kostspieliges Training geschärft wurden.
Niemand weiß, wie man hoch zielgerichtete KI flexibler macht oder welche Komponenten erforderlich sein könnten, um AGI mehr als technologische Fantasie zu machen. Sogar Altman ist von der Größe des Problems eingeschüchtert. "Ich habe Tage, an denen ich glaube, dass dies alles passieren wird, und Tage, an denen alles wie ein Wunschtraum erscheint", sagt er.
Was denkst du, wird er Erfolg haben?
Ilya Khel
