Im Jahr 2011 tat Andrew Ng etwas ruhig Radikales für ein Stanford-Fakultätsmitglied: Er half, 16.000 Prozessorkerne innerhalb von Google zusammenzubringen und sie auf YouTube-Videos im Namen der künstlichen Intelligenz (AI) loszulegen.
Er war ein Stanford-Professor, ein Gründungsgeist hinter Google Brain, Chief Scientist bei Baidu, Mitbegründer von Coursera, und der Unternehmer hinter DeepLearning.AI, AI Fund und Landing AI. Coursera allein überschritt 100 Millionen registrierte Lernende im Jahr 2021, eine Skala, die Ngs Stanford Machine-Learning (ML) Kurs in eine globale Ausbildungspipeline verwandelte.
Ein Freund, der ein kleines Unternehmen für industrielle Automatisierung betreibt - nennt ihn Marlon - verbrachte sechs Monate damit, ein visuelles Inspektionsmodell anzupassen, dann beobachtete er, wie es scheiterte, nachdem die Fabrik heller Beleuchtungspaneele installiert hatte.
Das Stanford Klassenzimmer war ein früher Inkubator
Ng wurde 1976 in London geboren und wuchs in Hong Kong und Singapur auf, bevor er in die Vereinigten Staaten zog. Er studierte Informatik und Wirtschaft an der Carnegie Mellon, ging dann zu einem Master-Abschluss am MIT und einem PhD an der University of California, Berkeley.
Stanfords frühes Experiment mit Online-Lieferung bewies, wie breit die Nachfrage wirklich war.Als die Universität seinen Kurs im offenen Web veröffentlichte, meldeten sich innerhalb von Wochen mehr als 100.000 Menschen an, eine Zahl, die zu der Zeit für eine einzelne Klasse sinnlos schien.
Ng veröffentlichte weiterhin Forschung, aber er verpackte auch weiterhin die Forschung in Formate, die Praktizierende verwenden konnten, ohne ihren Job zu verlassen.
Google Brain und der Fall für größere Netzwerke
Bei Google arbeitete Ng mit Jeff Dean und anderen an dem, was zu Google Brain wurde, einem Versuch, neuronale Netzwerke auf viel größeren Datensätzen auszubilden, als die meisten Forschungsgruppen bewältigen konnten. Das Ergebnis der Katzenerkennung verwendete unetikettierte YouTube-Bilder und eine verteilte Computerinstallation, die zu ihrer Zeit exotisch war. Das System erhielt kein Katzenetikett und suchte dann nach Katzen.
Das spezifische Ergebnis war weniger wichtig als die Demonstration.Es zeigte, dass bei ausreichend Daten und Berechnungen ein System Funktionen lernen konnte, die auf andere Aufgaben übertragen wurden.
Google Brain gab Ng auch einen Überblick darüber, wie unterschiedlich industrielles maschinelles Lernen von einem Universitätsprojekt war.Daten kamen in verwirrten Strömen an, Modelle mussten auf realen Infrastrukturen laufen und Schulungszyklen kosteten echtes Geld.
Baidu und die Linie, die steckt
Im Jahr 2014 wurde Ng Chief Scientist bei Baidu, wo er die AI-Gruppe des Unternehmens über die groß angelegte Spracherkennung und die autonome Fahrtarbeit des Unternehmens leitete. Er wiederholte das Google Brain Playbook in einem anderen Maßstab und in einer anderen Sprachumgebung.
Um diese Zeit popularisierte Ng einen Vergleich: “künstliche Intelligenz ist die neue Elektrizität.” Der Satz war keine technische Behauptung.
Coursera und das Vertriebsspiel
Ng gründete 2012 gemeinsam mit Daphne Koller Coursera und verwandelte den Stanford Machine-Learning-Kurs in einen der ersten Massen-Open-Kurse im Web. Das Timing half. Breitband- und Mobilzugang waren reif genug, dass Vorträge reisen konnten, und Arbeitgeber begannen, nach Fähigkeiten zu fragen, die Universitäten langsam im Maßstab liefern konnten.
Coursera überschritt 100 Millionen registrierte Lernende im Jahr 2021 und wurde im selben Jahr an der New York Stock Exchange veröffentlicht.Öffentliche Berichterstattung von Courserazeigt, dass sich die Plattform seitdem über einzelne Kurse hinaus in Abschlüsse und Arbeitskräftetraining erweitert hat. Ngs ursprünglicher maschineller Lernkurs befindet sich immer noch in der Nähe der Spitze der am meisten eingeschriebenen Listen des Unternehmens.
Der Gründer Stack
Nachdem Ng Baidu im Jahr 2017 verlassen hatte, baute er eine Reihe von Interlocking-Unternehmen und eine Verlagsgewohnheit auf.Die Liste liest sich wie eine vollständige Wette auf die Annahme von KI:
- DeepLearning.deFührt Kurse und einen wöchentlichen Newsletter für Praktizierende.
- Der Fondsist ein Venture-Studio, das frühzeitige Unternehmen mit technischen Teams und Kapital unterstützt.
- Landung AIkonzentriert sich auf Computervision für Fabriken und verkauft eine Plattform namens LandingLens für die visuelle Inspektion.
- Maschinelles Lernen Yearningist Ngs kostenloses Buch, wie man maschinelle Lernprojekte strukturiert.
Diese Unternehmen teilen eine Gewohnheit, die weniger offensichtlich ist als die Technologie. Jedes behandelt maschinelles Lernen-Modelle als ein Betriebssystem, nicht nur ein Algorithmus. Datenqualität, Umschulungsschritte, Domain-Experten und Benutzerfeedback sind von der ersten Woche an Teil des Produkts.
Data-centric AI und das Drift Problem
In den letzten Jahren hat Ng für “data-zentrische KI” argumentiert: die Praxis der Verbesserung der Konsistenz von Etiketten und die Beispiele, die für die Bewertung verwendet werden, bevor für ein größeres Modell erreicht.
In mehreren öffentlichen Wettbewerben haben die Teams von Ng den Teilnehmern gesagt, das Modell festzuhalten und ausschließlich um die Verbesserung des Datensatzes zu konkurrieren. Die gewinnenden Einträge erhöhen konsequent die Genauigkeit, indem sie Randfälle neu markieren, doppelte Beispiele entfernen und seltene Klassen ausgleichen.
Die meisten Pilotprojekte des maschinellen Lernens werden nie zu einer dauerhaften Infrastruktur, und die gemeinsamen Branchenschätzungen legen die Gesamtproduktionsumwandlung weit unter die Hälfte.
Was das für das Team bedeutet, das Sie führen
Das Ng Playbook weist auf eine Sequenz hin:
- Beginnen Sie mit einem Verbraucher: Eine Person oder ein System, die die Ausgabe des Modells benötigt, nicht ein vages Versprechen von Intelligenz.
- Entwerfen Sie die Datenleitung früher als das Modell, da die Datenabfluss ist ein Problem des ersten Jahres, nicht ein Randfall.
- Veröffentlichen Sie interne Dokumentation, in der aufgezeichnet wird, wann ein Modell vertrauenswürdig ist und wann es nicht.
- Betrachten Sie die Weiterbildung als ein kontinuierliches Kostenzentrum, mit geplanten Überprüfungen in Abständen, die in Wochen oder Monaten gemessen werden, nicht in Jahren.
Für Marlons Team war die Fixierung kein besseres Modell.Es war ein Kamera-Positionsstandard, ein neu markiertes Bild-Set, ein einseitiges README, das die Beleuchtungsbedingungen beschrieb, und eine Überprüfung vor jedem Produktionsstart.
Nehmen Sie ein Modell, auf das Sie stolz sind, und schreiben Sie die genauen Bedingungen auf, unter denen es ausgeschaltet werden sollte.
