DeepMind Und Google: Der Kampf Um Die Kontrolle Der Künstlichen Intelligenz - Alternative Ansicht

Inhaltsverzeichnis:

DeepMind Und Google: Der Kampf Um Die Kontrolle Der Künstlichen Intelligenz - Alternative Ansicht
DeepMind Und Google: Der Kampf Um Die Kontrolle Der Künstlichen Intelligenz - Alternative Ansicht

Video: DeepMind Und Google: Der Kampf Um Die Kontrolle Der Künstlichen Intelligenz - Alternative Ansicht

Video: DeepMind Und Google: Der Kampf Um Die Kontrolle Der Künstlichen Intelligenz - Alternative Ansicht
Video: Let's Check: Google DeepMind | Künstliche Intelligenz 2024, March
Anonim

Eines Abends im August 2010 betrat ein 34-jähriger Londoner namens Demis Hassabis die Bühne in einem Konferenzraum in der San Francisco Bay Area. Er kletterte mit dem vorgetäuschten Gang eines Mannes, der versuchte, seine Nerven zu kontrollieren, auf das Podium, presste seine Lippen zu einem kurzen Lächeln zusammen und sagte: „Nun, heute möchte ich über verschiedene Herangehensweisen an die Schöpfung sprechen …“. Er blieb stehen, als würde ihm klar werden, wie laut er seine Ambitionen erklärte. Und er sagte es: "AGI".

AGI steht für General Artificial Intelligence, ein hypothetisches Computerprogramm, das sowohl intellektuelle als auch menschliche oder noch bessere Aufgaben ausführen kann. AGI wird in der Lage sein, bestimmte Aufgaben auszuführen, z. B. das Erkennen von Personen auf Fotos oder das Übersetzen von Sprachen, die derzeit in der Lage sind, viele separate künstliche Intelligenzen in unseren Telefonen und Computern auszuführen. Sie können gleichzeitig ein Gespräch führen, Schach spielen und Französisch sprechen. Sie werden in der Lage sein, Physikbücher zu verstehen, Romane zu schreiben, Anlagestrategien zu entwickeln und ungezwungene Gespräche mit Fremden zu führen. Sie werden nukleare Reaktionen überwachen, Stromnetze und Verkehr verwalten und in allem anderen mühelos Erfolg haben. AGI wird die fortschrittlichste KI heute wie Taschenrechner aussehen lassen.

Der einzige Intellekt, der derzeit in der Lage ist, all diese Aufgaben auszuführen, gehört dem Menschen. Der menschliche Geist ist jedoch durch die Größe des Schädels begrenzt, in dem sich das Gehirn befindet. Seine Kraft wird durch die winzige Menge an Energie begrenzt, die der Körper bereitstellen kann. Da AGI auf Computern ausgeführt wird, werden diese Einschränkungen nicht beeinträchtigt. Seine Intelligenz wird nur durch die Anzahl der verfügbaren Prozessoren begrenzt. AGI kann mit der Überwachung von Kernreaktionen beginnen. Aber schon bald wird er neue Energiequellen entdecken und mehr Physikarbeit pro Sekunde verdauen, als ein Mensch in tausend Jahren kann. Intelligenz auf menschlicher Ebene, die durch die Geschwindigkeit und Skalierbarkeit von Computern unterstützt wird, erspart uns die Mühe. Hassabis sagte der britischen Zeitung Observer, dass er erwartet, dass AGI unter anderem Probleme wie „Krebs,Klimawandel, Energie, Genomik, Makroökonomie und Finanzsysteme."

Die Konferenz, auf der Hassabis sprach, wurde als Singularity Summit bezeichnet. Singularität - der erste Teil des Namens - bezieht sich laut Zukunftsforschern auf die wahrscheinlichste Folge der Entstehung von AGI. Da AGI Informationen mit hoher Geschwindigkeit verarbeitet, werden sie sehr schnell sehr intelligent. Schnelle Selbstverbesserungszyklen führen zu einer Explosion der Maschinenintelligenz, sodass die Menschen den Siliziumstaub schnüffeln können. Da diese Zukunft ausschließlich auf unbestätigten Annahmen beruht, wird fast religiös angenommen, dass sich die Singularität entweder als Utopie oder als Hölle herausstellen wird.

Nach den Titeln der Reden zu urteilen, glaubten die Konferenzteilnehmer mehr an das erste Ergebnis: „Geist und wie man ihn aufbaut“, „KI gegen das Altern“, „unseren Körper ersetzen“, „Die Grenze zwischen Leben und Tod verändern“. Hassabis 'Rede hingegen schien langweilig: "Ein systemischer neurowissenschaftlicher Ansatz zur Schaffung von AGI."

Hassabis ging zwischen Podium und Bildschirm auf und ab und sprach klappernd. Er trug einen burgunderfarbenen Pullover und ein weißes Hemd mit Knöpfen wie ein Schuljunge. Seine kleine Statur schien nur seine Intelligenz zu betonen. Bis jetzt, erklärte Hassabis, haben sich Wissenschaftler von zwei Seiten an AGI gewandt. Ein Ansatz, bekannt als symbolische KI, versuchte, alle Regeln zu beschreiben und zu programmieren, die für ein System erforderlich sind, das wie ein Mensch denken kann. Dieser Ansatz war in den 1980er und 1990er Jahren beliebt, führte jedoch nicht zu den gewünschten Ergebnissen. Hassabis glaubte, dass die mentale Architektur des Gehirns zu subtil sei, um auf diese Weise beschrieben zu werden.

Ein anderer Ansatz hat Wissenschaftler zusammengebracht, die versuchen, die physischen Netzwerke des Gehirns digital zu replizieren. Es machte einen gewissen Sinn. Schließlich ist das Gehirn das Bett der menschlichen Intelligenz. Aber diese Forscher waren auch auf dem falschen Weg, sagte Hassabis. Ihre Aufgabe war es, eine Karte aller Sterne im Universum zu erstellen. Sie konzentrierten sich tiefer auf die falsche Ebene der Gehirnfunktion. Es war, als würde man versuchen herauszufinden, wie Microsoft Excel funktioniert, indem man sich in einen Computer hackt und lernt, wie Transistoren interagieren.

Stattdessen bot Hassabis einen Mittelweg: AGI sollte sich von den allgemeinen Methoden inspirieren lassen, mit denen das Gehirn Informationen verarbeitet, nicht von physischen Systemen oder bestimmten Regeln, die es für bestimmte Situationen anwendet. Mit anderen Worten, er sollte sich darauf konzentrieren, die Software des Gehirns zu verstehen, nicht seine Hardware. Neue Techniken wie die funktionelle Magnetresonanztomographie (fMRT), die Einblicke in das Gehirn ermöglichten, deuteten darauf hin, dass ein solches Verständnis möglich war. Jüngste Studien, so Hassabis, zeigen, dass das Gehirn lernt, indem es seine Erfahrungen im Schlaf wiederholt, um allgemeine Prinzipien aufzudecken. KI-Forscher müssen ein solches System emulieren.

Werbevideo:

In der unteren rechten Ecke der Eröffnungsfolie zeigt sich das Logo in Form eines runden blauen Wirbels. Die beiden Wörter daneben sind unten gedruckt: DeepMind. Dies war das erste Mal, dass das Unternehmen öffentlich erwähnt wurde. Hassabis verbrachte über ein Jahr damit, eine Einladung zum Singularity Summit zu erhalten. Der Vortrag war sein Cover. Tatsächlich brauchte er eine Minute mit Peter Thiel, dem Silicon Valley-Milliardär, der die Konferenz finanzierte. Hassabis wollte Thiels Investition.

Hassabis sprach nie darüber, warum er Thiels Unterstützung brauchte. Aber Thiel glaubte noch mehr an AGI als an Hassabis. Auf dem Singularity Summit 2009 sagte Thiel, seine größte Angst vor der Zukunft sei kein Roboteraufstand. Er war mehr besorgt, dass die Singularität nicht bald kommen würde. Die Welt brauchte neue Technologien, um einen wirtschaftlichen Abschwung abzuwehren.

DeepMind sammelte schließlich 2 Millionen Pfund, von denen Thiel 1,4 Millionen betrug. Als Google das Unternehmen im Januar 2014 für 600 Millionen US-Dollar kaufte, erzielten Thiel und andere frühe Investoren eine Rendite von 5.000%.

Für viele Gründer wäre dies ein Happy End. Man könnte sich ausruhen, einen Schritt zurücktreten, Zeit alleine mit Geld verbringen. Für Hassabis war die Übernahme von Google nur ein weiterer Schritt auf seiner Suche nach AGI. Er verbrachte den größten Teil des Jahres 2013 damit, die Vertragsbedingungen auszuhandeln. DeepMind musste getrennt von seinem Besitzer arbeiten. Sie musste die Vorteile des Besitzes von Google wie den Zugriff auf Cashflow und Rechenleistung nutzen, ohne die Kontrolle zu verlieren.

Hassabis dachte, DeepMind könnte ein Hybrid sein, mit einer Startup-Engine, den Köpfen der größten Universitäten und den tiefen Taschen eines der wertvollsten Unternehmen der Welt. Jede Zutat war vorhanden, um die Ankunft der AGI zu beschleunigen und die Ursachen menschlichen Leidens zu beseitigen.

Hu von Herrn Hassabis

Demis Hassabis wurde 1976 in Nord-London in eine griechisch-zypriotische und in Singapur geborene chinesische Familie geboren. Er war das älteste von drei Geschwistern. Seine Mutter arbeitete im britischen Kaufhaus John Lewis, und sein Vater betrieb ein Spielzeuggeschäft. Hassabis selbst nahm im Alter von vier Jahren Schach auf und sah seinem Vater und seinem Onkel beim Spielen zu. In wenigen Wochen schlug er bereits Erwachsene. Mit 13 Jahren wurde er der zweitbeste Schachspieler seiner Zeit. Mit acht Jahren lernte er das Programmieren auf einem einfachen Computer.

Hassabis erhielt seine Hochschulausbildung 1992, zwei Jahre früher als geplant. Ich habe einen Job als Videospielprogrammierer bei Bullfrog Productions bekommen. Hassabis schrieb einen Themenpark, in dem Spieler einen virtuellen Vergnügungspark erstellen und verwalten. Das Spiel war ein großer Erfolg und verkaufte sich 15 Millionen Mal. Damit entstand ein ganzes Genre von Simulationsspielen, bei denen es nicht darum ging, den Feind zu besiegen, sondern die Funktionsweise eines riesigen komplexen Systems wie eines Unternehmens oder einer Stadt zu optimieren.

Demis hat nicht nur Spiele entwickelt, sondern auch gut gespielt. Als Teenager lief er bei Brettspielwettbewerben zwischen den Stockwerken, während er in Zweikämpfen zwischen Schach, Scrabble, Poker und Backgammon antrat. Während seines Informatikstudiums an der Universität von Cambridge nahm Hassabis 1995 am Student Go-Turnier teil. Go ist ein uraltes Strategie-Brettspiel, das deutlich schwieriger ist als Schach. Die Meisterschaft muss eine Intuition erfordern, die über langjährige Erfahrung erworben wurde. Niemand wusste, ob Hassabis jemals zuvor Go gespielt hatte.

Zunächst gewann Hassabis das Anfängerturnier. Anschließend besiegte er den Sieger der erfahrenen Spieler, allerdings mit einem Handicap. Charles Matthews, der Cambridge Go Master, der das Turnier ausrichtete, erinnert sich an den Schock, von einem 19-jährigen Rookie zerstört zu werden. Matthews nahm Hassabis unter seine Fittiche.

Hassabis 'Intelligenz und Ehrgeiz waren in Spielen immer offensichtlich. Spiele wiederum entfachten seine Leidenschaft für Intelligenz. Als er seine Entwicklung im Schach beobachtete, fragte er sich, ob Computer so programmiert werden könnten, dass sie auf die gleiche Weise lernen, wie er es tat, indem er Erfahrungen sammelte. Spiele boten eine Lernumgebung, die der realen Welt nicht entsprach. Sie waren streng und geschlossen. Da Spiele von der realen Welt getrennt sind, können sie störungsfrei geübt und effektiv erlernt werden. Spiele beschleunigen die Zeit: Die Spieler gründen in wenigen Tagen ein Verbrechersyndikat und kämpfen einige Minuten an der Somme.

Im Sommer 1997 reiste Hassabis nach Japan. Im Mai dieses Jahres schlug der Deep Blue-Computer von IBM den Schachweltmeister Garry Kasparov. Zum ersten Mal schlug ein Computer einen Großmeister. Das Spiel erregte weltweite Aufmerksamkeit und gab Anlass zur Sorge um die wachsende Leistung und die potenzielle Bedrohung durch Computer. Als Hassabis sich mit Masahiko Futszuvera, einem japanischen Brettspielmeister, traf, sprach er über Pläne, die seine Interessen an Strategiespielen und künstlicher Intelligenz verbinden würden: Eines Tages würde er ein Computerprogramm entwickeln, um den größten Go-Spieler zu besiegen.

Hassabis näherte sich seiner Karriere methodisch. "Im Alter von 20 Jahren glaubte Hassabis, dass bestimmte Dinge vorhanden sein mussten, bevor künstliche Intelligenz das erforderliche Niveau erreichen konnte", sagt Matthews. "Er hatte einen Plan."

1998 gründete er sein eigenes Spielestudio namens Elixir. Hassabis konzentrierte sich auf ein äußerst ehrgeiziges Spiel, Republic: The Revolution, eine komplexe politische Simulation. Einige Jahre zuvor, als Hassabis noch in der Schule war, hatte er seinem Freund Mustafa Suleiman gesagt, dass die Welt grandiose Simulationen benötige, um ihre komplexe Dynamik zu modellieren und die komplexesten sozialen Probleme zu lösen. Jetzt versuchte er es im Spiel.

Es war schwieriger als erwartet, seine Bestrebungen zu kodieren. Elixir veröffentlichte schließlich eine abgespeckte Version des Spiels, um warme Kritiken zu erhalten. Andere Spiele sind fehlgeschlagen. Im April 2005 schloss Hassabis Elixir. Matthews glaubt, dass Hassabis das Unternehmen nur gegründet hat, um Managementerfahrung zu sammeln. Hassabis fehlte nur noch ein wichtiges Fachgebiet, bevor er seine Suche nach AGI beginnen konnte. Er musste das menschliche Gehirn verstehen.

Im Jahr 2005 promovierte Hassabis in Neurowissenschaften am University College London. Er veröffentlichte eine sehr einflussreiche Studie über Erinnerung und Vorstellungskraft. Eine Studie, die seitdem über 1.000 Mal zitiert wurde, zeigte, dass es Menschen mit Amnesie auch schwer fällt, sich neue Erfahrungen vorzustellen, was auf einen Zusammenhang zwischen Auswendiglernen und mentalen Bildern hindeutet. Hassabis baute das Verständnis des Gehirns auf, das zur Beherrschung der AGI erforderlich ist. Ein Großteil seiner Arbeit beschränkte sich auf eine Frage: Wie empfängt und behält das menschliche Gehirn Konzepte und Wissen?

Hassabis hat DeepMind am 15. November 2010 offiziell gegründet. Das Unternehmensleitbild war das gleiche wie jetzt: "Löse die Intelligenz" und nutze es dann, um alles andere zu lösen. Wie Hassabis dem Singularity Summit sagte, bedeutet dies, unser Verständnis davon, wie das Gehirn Aufgaben ausführt, in Software zu übersetzen, die dieselben Methoden zum Lehren verwenden kann.

Hassabis behauptet keineswegs, dass die Wissenschaft den menschlichen Geist vollständig verstanden hat. Der Plan zur Implementierung von AGI war aus Hunderten von neurowissenschaftlichen Studien nicht zu lernen. Er ist jedoch der festen Überzeugung, dass es durchaus möglich ist, auf eine Weise an AGI zu arbeiten, die ihn anspricht. Es ist jedoch auch möglich, dass sein Vertrauen die Realität übertrifft. Wir wissen immer noch sehr wenig mit Sicherheit darüber, wie das Gehirn tatsächlich funktioniert. 2018 stellte ein Team australischer Forscher Hassabis 'eigene Ergebnisse in Frage. Natürlich ist dies nur ein Dokument, aber es zeigt, dass die Wissenschaft hinter DeepMinds Arbeit alles andere als bewiesen ist.

Suleiman und Shane Legge, ein von der AGI besessener Neuseeländer, den Hassabis auch an der Universität kennengelernt hatte, schlossen sich als Mitbegründer an. Der Ruf des Unternehmens wuchs schnell. Hassabis blühte auf. "Es zieht sich wie ein Magnet an", sagt Ben Faulkner, ehemaliger Geschäftsführer von Deep Mind. Viele Rekruten kommen aus Europa. Vielleicht bestand DeepMinds größte Errungenschaft darin, talentierte Leute frühzeitig zu rekrutieren und die klügsten und besten von ihnen zu behalten.

Eine der Techniken des maschinellen Lernens, auf die sich das Unternehmen konzentriert hat, ist aus Hassabis 'doppelter Leidenschaft für Spiele und Neurowissenschaften hervorgegangen: das verstärkte Lernen. Ein solches Programm soll Informationen über die Umwelt sammeln und daraus lernen und seine Erfahrungen immer wieder reproduzieren - so wie Hassabis in seinem Vortrag auf dem Singularity Summit die Gehirnaktivität im Schlaf beschrieben hat.

Das Lernen der Verstärkung beginnt mit einer sauberen Tafel. Dem Programm wird eine virtuelle Umgebung gezeigt, über die es nur die Regeln kennt, z. B. einen Schach-Simulator oder ein Videospiel. Das Programm enthält mindestens eine Komponente, die als neuronales Netzwerk bekannt ist. Es besteht aus Schichten von Rechenstrukturen, die Informationen durchsuchen, um bestimmte Merkmale oder Strategien zu identifizieren. Jede Ebene untersucht die Umgebung auf ihrer eigenen Abstraktionsebene. Anfangs haben diese Netzwerke nur minimalen Erfolg, aber ihre Fehler - und das ist wichtig - sind auch in ihnen verschlüsselt. Allmählich werden sie immer schlauer, experimentieren mit verschiedenen Strategien und erhalten Belohnungen, wenn sie Erfolg haben. Wenn das Programm die Schachfigur bewegt und dadurch das Spiel verliert, wird es keinen solchen Fehler mehr machen. Ein Großteil der Magie der künstlichen Intelligenz liegt in der Geschwindigkeit, mit der sie diese Aufgaben wiederholt.

Die Arbeit von DeepMind erreichte 2016 ihren Höhepunkt, als das Team ein Programm für künstliche Intelligenz entwickelte, das neben anderen Spielmethoden auch verstärktes Lernen verwendete. Das Programm namens AlphaGo zog die Augenbrauen hoch, nachdem es 2016 in einem Fünf-Spiele-Spiel in Seoul den Weltmeister besiegt hatte. Der Sieg der Maschine, der von 280 Millionen Menschen beobachtet wurde, geschah zehn Jahre früher als von den Maschinen vorhergesagt. Im folgenden Jahr besiegte eine verbesserte Version von AlphaGo den chinesischen Go-Champion.

Wie Deep Blue im Jahr 1997 veränderte AlphaGo die Wahrnehmung menschlicher Leistungen. Die menschlichen Champions, die brillanten Köpfe des Planeten, standen nicht mehr an der Spitze der intellektuellen Pyramide. Fast 20 Jahre nachdem Hassabis Fuzuvere seine Ambitionen angekündigt hatte, erfüllte er sie. Hassabis sagte, dass dieses Match ihn zu Tränen gerührt habe. Er war Matthews dankbar.

DeepBlue gewann dank Brute Force und Rechengeschwindigkeit, aber AlphaGos Stil fühlte sich künstlerisch und fast menschlich an. Seine Eleganz und Raffinesse, die Überlegenheit der Rechenleistung, schienen zu zeigen, dass DeepMind der Konkurrenz bei der Entwicklung eines Programms zur Heilung von Krankheiten und zur Verwaltung von Städten voraus war.

DeepMind und künstliche Intelligenz

Hassabis hat immer gesagt, dass DeepMind die Welt zum Besseren verändern wird. Über AGI besteht jedoch keine Gewissheit. Wenn er jemals auftaucht, wissen wir nicht, ob es gut oder schlecht sein wird, ob er sich der menschlichen Kontrolle unterwirft. Wenn ja, wer wird die Zügel halten?

Von Anfang an versuchte Hassabis, die Unabhängigkeit von DeepMind zu verteidigen. Er bestand immer darauf, dass DeepMind in London bleibt. Als Google das Unternehmen 2014 kaufte, wurde das Thema Kontrolle immer dringlicher. Hassabis musste DeepMind nicht an Google verkaufen. Mit genügend Geld entwarf er ein Geschäftsmodell, in dem das Unternehmen Spiele zur Finanzierung der Forschung entwickeln würde. Sie versprachen viel Geld bei Google, aber er wollte die von ihm gegründete Firma nicht übertragen. Im Rahmen des Vertrags hat DeepMind eine Vereinbarung getroffen, die verhindern soll, dass Google einseitig die Kontrolle über das geistige Eigentum des Unternehmens übernimmt. Im Jahr vor der Übernahme haben laut Quellen beide Seiten eine Vereinbarung unterzeichnet - die Ethik- und Sicherheitsvereinbarung. Diese Vereinbarung wurde von hochrangigen Anwälten in London ausgearbeitet.

Die Vereinbarung überträgt die Kontrolle über die Kerntechnologie von AGI DeepMind, falls vorhanden, an den Ethik-Verwaltungsrat. Laut derselben Quelle ist der Ethikrat keineswegs eine kosmetische Konzession von Google, sondern bietet DeepMind eine solide rechtliche Unterstützung, um die Kontrolle über seine wertvollste und potenziell gefährlichste Technologie zu behalten. Die Namen der Kommissare wurden nicht veröffentlicht, aber eine andere Quelle in der Nähe von DeepMind und Google sagte, dass alle drei Gründer von DeepMind im Vorstand sind. Das Unternehmen selbst legt nichts offen.

Hassabis kann das Schicksal von DeepMind auf andere Weise bestimmen. Einer von ihnen ist Hingabe. Ehemalige und aktuelle Mitarbeiter sagen, dass das Forschungsprogramm von Hassabis eine der größten Stärken von DeepMind ist. Sein Programm, das spannende und wichtige Arbeit ohne akademischen Druck bietet, hat Hunderte der talentiertesten Experten der Welt angezogen. DeepMind hat Niederlassungen in Paris und Albert. Viele Mitarbeiter fühlen sich mehr mit Hassabis und seiner Mission verbunden als mit seiner Muttergesellschaft, die nur Einkommen will. Solange Hassabis seine persönliche Loyalität beibehält, hat er beträchtliche Macht über seinen alleinigen Aktionär. Es ist besser, das Talent für DeepMind aus der Ferne arbeiten zu lassen, als auf Facebook oder Apple zu landen.

DeepMind verfügt über eine weitere Hebelwirkung, die jedoch ständig nachgefüllt werden muss: einen glückverheißenden Heiligenschein. Dies ist dem Unternehmen gelungen. AlphaGo war eine großartige Werbung. Seit der Übernahme von Google hat das Unternehmen wiederholt Wunder vollbracht, die weltweite Aufmerksamkeit erregt haben. Ein Beispiel für Software kann Augenscanmuster erkennen, die Indikatoren für Makuladegeneration sind. Ein anderes Programm lernte das Schachspielen von Grund auf mit einer Architektur ähnlich wie AlphaGo und wurde nach nur neun Stunden mit sich selbst zum größten Spieler aller Zeiten. Im Dezember 2018 erwies sich AlphaFold als genauer als die Konkurrenz bei der Vorhersage der dreidimensionalen Struktur von Proteinen aus einer Liste von Verbindungen, die möglicherweise Krankheiten wie Parkinson und Alzheimer behandeln könnten.

DeepMind ist besonders stolz auf die von ihm entwickelten Algorithmen, mit denen die effizientesten Kühllösungen für die Rechenzentren von Google berechnet werden, die ungefähr 2,5 Millionen Computerserver enthalten. Im Jahr 2016 gab DeepMind bekannt, die Stromrechnung von Google um 40% gesenkt zu haben. Aber einige Insider sagen, dass diese Prahlerei übertrieben ist. Google hat Algorithmen verwendet, um seine Rechenzentren zu optimieren, lange bevor DeepMind auf den Markt kam. Es wird angenommen, dass DeepMind seine Vorzüge überbewertet, um in den Augen von Alphabet an Wert zu gewinnen. Googles Muttergesellschaft Alphabet bezahlt DeepMind für ähnliche Dienste. Im Jahr 2017 stellte letzteres Alphabet eine Rechnung über 54 Mio. GBP aus. Diese Zahlen verblassen im Vergleich zu DeepMinds Overhead. Im selben Jahr gab sie 200 Millionen Pfund für Mitarbeiter aus. Im Allgemeinen,Im Jahr 2017 verlor DeepMind 282 Millionen Pfund.

Das ist ein Penny für einen reichen Riesen. Andere Tochtergesellschaften von Alphabet erregten jedoch die Aufmerksamkeit von Ruth Porat, der geizigen CFO von Alphabet. Google Fibre, ein Versuch, einen Internetdienstanbieter aufzubauen, wurde ausgesetzt, nachdem klar wurde, dass sich die Investition erst nach Jahrzehnten auszahlen würde. KI-Forscher fragen sich auch, ob DeepMind vermasselt wird.

Die schrittweise Offenlegung der Fortschritte von DeepMind in der KI ist Teil einer Strategie, die den Ruf des Unternehmens schrittweise stärkt. Dies ist besonders in einer Zeit wertvoll, in der Google beschuldigt wird, die Privatsphäre der Nutzer verletzt und gefälschte Nachrichten verbreitet zu haben. DeepMind hatte auch das Glück, einen Unterstützer auf höchstem Niveau zu haben: Larry Page, einer der beiden Gründer von Google, jetzt CEO von Alphabet. Paige ist Hassabis sehr nahe. Der Vater von Page, Karl, studierte in den 1960er Jahren neuronale Netze. Zu Beginn seiner Karriere sagte Page, er habe Google ausschließlich zur Gründung einer KI-Firma gegründet.

Die enge Kontrolle von DeepMind über die Presse entspricht nicht dem akademischen Geist, der das Unternehmen durchdringt. Einige Wissenschaftler beklagen, dass es für sie schwierig ist, ihre Arbeiten zu veröffentlichen: Sie müssen die Ebenen der internen Genehmigung überwinden, bevor sie überhaupt ein Papier für eine Konferenz oder ein Journal einreichen können. DeepMind ist der Ansicht, dass Vorsicht geboten ist, um die Öffentlichkeit nicht mit der Aussicht auf AGI zu erschrecken. Aber zu harte Anschuldigungen können die akademische Atmosphäre ruinieren und die Mitarbeiterbindung schwächen.

Fünf Jahre nach der Übernahme von Google wird die Frage, wer DeepMind kontrolliert, kritisch. Die Gründer und frühen Mitarbeiter des Unternehmens nähern sich der Schwelle, wenn sie die finanzielle Entschädigung erhalten können, die sie durch den Kauf des Unternehmens erhalten haben (Hassabis-Aktien haben wahrscheinlich einen Wert von rund 100 Millionen Pfund). Eine Quelle in der Nähe des Unternehmens legt jedoch nahe, dass Alphabet die Zahlungen an Gründer seit mehreren Jahren zurückgedrängt hat. Aufgrund seines unerbittlichen Fokus ist es unwahrscheinlich, dass Hassabis vom Schiff springt. Er interessiert sich nur insofern für Geld, als es ihm hilft, sich dem Ziel seines ganzen Lebens zu nähern. Aber einige meiner Kollegen sind gegangen. Drei KI-Ingenieure haben das Unternehmen seit Anfang 2019 verlassen. Ben Laurie, einer der weltweit angesehensten Sicherheitsingenieure, ist zurück bei Google. Das ist sicherlich nicht vielAber DeepMind bietet eine so erstaunliche Mission und eine angemessene Bezahlung, dass niemand gehen sollte.

Bisher hat Google DeepMind nicht wirklich gestört. Eine jüngste Entwicklung hat jedoch Bedenken geäußert, wie lange das Unternehmen seine Unabhängigkeit bewahren kann.

DeepMind, Medizin und künstliche Intelligenz

DeepMind hat immer geplant, KI zur Verbesserung der Gesundheitsversorgung einzusetzen. Im Februar 2016 wurde eine neue Abteilung von DeepMind Health gegründet, die von Mustafa Suleiman, einem der Mitbegründer des Unternehmens, geleitet wird. Suleiman, dessen Mutter Krankenschwester war, hoffte, ein Programm namens Streams entwickeln zu können, das Ärzte alarmiert, wenn sich die Gesundheit eines Patienten verschlechtert. DeepMind würde basierend auf Metriken belohnt. Da für diese Arbeit Zugang zu vertraulichen Patienteninformationen erforderlich war, richtete Suleiman ein unabhängiges Überprüfungsgremium (Independent Review Panel, IRP) ein, das gute englische Gesundheits- und Technologiefachkräfte rekrutierte. DeepMind war klug genug, vorsichtig zu sein. Anschließend stellte der britische Informationskommissar fest, dass einer der Krankenhauspartner bei der Verarbeitung von Patientendaten gegen das Gesetz verstoßen hatte. Bis Ende 2017 hatte Suleiman jedoch Vereinbarungen mit vier großen Krankenhäusern unterzeichnet.

Am 8. November 2018 gab Google die Schaffung einer eigenen Gesundheitsabteilung bekannt - Google Health. Fünf Tage später wurde bekannt gegeben, dass DeepMind Health sich den Bemühungen des Mutterunternehmens anschließen soll. DeepMind wurde nicht gewarnt. Nach Informationen aus FOI-Anfragen teilte sie den Partnerkrankenhäusern die Änderung erst drei Tage im Voraus mit. DeepMind lehnte es ab, offen zu legen, wann die Diskussionen über den Zusammenschluss begannen, sagte jedoch, dass die kurze Zeit zwischen Benachrichtigung und öffentlicher Bekanntgabe im Interesse der Transparenz sei. Im Jahr 2016 schrieb Suleiman, dass "Patientendaten niemals mit Google-Konten, -Produkten oder -Diensten verknüpft werden". Sein Versprechen schien gebrochen worden zu sein.

Die Annexion von Google verärgerte die Mitarbeiter von DeepMind Health. Laut Mitarbeitern des Gesundheitsteams planen mehr Mitarbeiter, das Unternehmen nach Abschluss des Übernahmeprozesses zu verlassen.

Diese Episode zeigt, dass periphere Teile der Arbeit von DeepMind für Google anfällig sind. DeepMind erklärte: "Wir waren uns alle einig, dass es sinnvoll ist, diese Bemühungen in einer gemeinsamen Anstrengung mit erhöhten Ressourcen zu kombinieren." Dies wirft die Frage auf, ob Google dieselbe Logik auf DeepMinds Arbeit an AGI anwenden wird.

DeepMind hat im großen Stil große Fortschritte gemacht. Sie hat bereits Software entwickelt, die lernen kann, Aufgaben auf übermenschlicher Ebene auszuführen. Hassabis bezieht sich oft auf Breakout, ein Videospiel für die Atari-Konsole. Der Spieler steuert einen Schläger, der sich horizontal bewegen kann und mit seiner Hilfe die Bälle abprallt und sie in Blöcke darüber lenkt, die bei einer Kollision zerstört werden. Der Spieler gewinnt, wenn alle Blöcke zerstört sind. Verliert, wenn der Ball an der Plattform vorbei fällt. Ohne menschliche Anweisung lernte DeepMind nicht nur, das Spiel zu spielen, sondern auch Bälle hinter Blöcken in den Weltraum zu werfen, um den Sprung auszunutzen. Dies zeigt die Kraft des verstärkenden Lernens und die übernatürlichen Kräfte der Computerprogramme von DeepMind.

Die Demonstration ist sicherlich beeindruckend. Aber Hassabis schweigt über etwas. Wenn die virtuelle Plattform noch etwas höher angehoben wird, macht das Programm einen Fehler. Die Fähigkeiten, die DeepMind erworben hat, sind so begrenzt, dass es nicht einmal auf winzige Veränderungen in der Umgebung reagieren kann, die ein Mensch leicht überwinden könnte. Aber es gibt viele Feinheiten auf der Welt. Für die diagnostische Intelligenz sind keine zwei Körperorgane gleich. Für die mechanische Intelligenz werden zwei ähnliche Motoren beim Einstellen niemals gleich sein. Daher ist es schwierig, Programme in freier Wildbahn freizugeben.

Das zweite, über das DeepMind selten spricht, ist, dass der Erfolg in virtuellen Umgebungen von einer Belohnungsfunktion abhängt: einem Signal, mit dem Software ihren Fortschritt messen kann. Das Programm lernt, dass das Abprallen von der Rückwand die Punktzahl erhöht. Ein Großteil der Arbeit von DeepMind mit AlphaGo bestand darin, eine Belohnungsfunktion zu erstellen, die mit einem so komplexen Spiel kompatibel ist. Leider bietet die reale Welt keine einfachen Belohnungen. Fortschritt wird selten in einzelnen Punkten gemessen. Das menschliche Gehirn erhält ein Signal über den Erfolg der Aufgabe direkt während ihrer Umsetzung und nicht danach.

DeepMind hat einen Weg gefunden, dies zu umgehen, indem es enorme Mengen an Rechenleistung einsetzt. AlphaGo spielt seit Tausenden von Jahren menschliche Zeit, um etwas zu lernen. Viele KI-Philosophen vermuten, dass diese Lösung für Aufgaben, die schwächere Belohnungen bieten, nicht akzeptabel ist. DeepMind erkennt solche Unklarheiten an. Sie hat kürzlich StarCraft 2, ein Computer-Strategiespiel, aufgenommen. Zu Beginn des Spiels getroffene Entscheidungen haben Konsequenzen, die später auftreten. Dies ist sehr charakteristisch für das gewundene und verspätete Feedback realer Probleme. Im Januar schlug die Software von DeepMind einige der besten Spieler der Welt und war trotz strenger Einschränkungen ziemlich beeindruckend. Die Programme haben auch begonnen, Belohnungsfunktionen zu untersuchen, indem sie dem Feedback der Leute folgen. Das Einfügen menschlicher Anweisungen in eine Schleife birgt jedoch das Risiko, an Umfang und Geschwindigkeit zu verlieren.

Sowohl aktuelle als auch ehemalige Forscher von DeepMind und Google haben unter der Bedingung der Anonymität ihre Skepsis geäußert, dass DeepMind mit solchen Methoden eine AGI erreichen kann. Für sie macht es der Wunsch, in simulierten Umgebungen eine hohe Leistung zu erzielen, schwierig, das Problem der Belohnungsfunktion zu lösen. Doch genau dieser Ansatz ist das Herzstück von DeepMind. Innerhalb eines Unternehmens gibt es einen internen Wettbewerb, bei dem Programme konkurrierender Teams um die Vorherrschaft kämpfen.

Hassabis hat das Leben immer als Spiel gesehen. Ein Großteil seiner Karriere war der Herstellung gewidmet, der größte Teil seiner Freizeit wurde damit verbracht, sie zu spielen. Bei DeepMind nutzt er sie, um leistungsstarke künstliche Intelligenz zu entwickeln. Hassabis lernt wie seine Software aus eigener Erfahrung. Das Streben nach AGI kann letztendlich zu einer Sackgasse führen, in der nützliche Medizintechnik erfunden und die besten Spieler in ihren Fähigkeiten überwältigt werden. Es kann aber auch AGI direkt vor Googles Nase erstellen, jedoch außerhalb seiner Kontrolle. Und wenn er es schafft, wird Demis Hassabis das schwierigste Spiel von allen gewinnen.

Ilya Khel

Empfohlen: