Blog

Aug 20, 2023

Vom Licht geblendet

Erinnern Sie sich an das Lied Blinded by the Light? Diese Komposition, die ursprünglich von Bruce Springsteen geschrieben und aufgenommen wurde, erschien erstmals 1973 auf seinem Debütalbum Greetings from Asbury Park.

Erinnern Sie sich an das Lied Blinded by the Light? Diese Komposition, die ursprünglich von Bruce Springsteen geschrieben und aufgenommen wurde, erschien erstmals 1973 auf seinem Debütalbum Greetings from Asbury Park, NJ. Bruce ist natürlich eine Legende. So großartig seine Interpretation auch ist, ich werde „Blinded by the Light“ immer mit Manfred Manns Earth Band in Verbindung bringen, die ihre Version drei Jahre später als Titel auf ihrem 1976er Album „The Roaring Silence“ veröffentlichten.

Ich habe nur die Texte gelesen und darüber nachgedacht. Ich habe immer noch keine Ahnung, was sie bedeuten, aber ich liebe dieses Lied wirklich. Die Manfred-Mann-Version enthält die „Chopsticks“-Melodie, die gegen Ende der Brücke des Liedes auf dem Klavier gespielt wird. Das war eine der ersten Melodien, die ich auf dem Klavier spielen lernte. Ich bin kein großer Pianist, aber wenn Manfred und seine Freunde jemals Hilfe brauchen, könnte ich diese Rolle auf jeden Fall für sie übernehmen. Ich kann nicht anders – ich muss mir das YouTube-Video ansehen – ich bin in einer Minute zurück.

Wow! Das war auf jeden Fall eine Reise in die Vergangenheit. Als das herauskam, war ich ein junger Student mit strahlenden Augen und buschigem Schwanz an der Universität. Jetzt komme ich mir wie ein alter Idiot vor (aber wo sollen wir um diese Tageszeit einen finden?).

Gedanken sprühen wie Feuerwerk in meinem armen alten Kopf. „The Color of Magic“ und „The Light Fantastic“ von Terry Pratchett (RIP) zum Beispiel sind mir einfach in den Sinn gekommen (was ich lachend nenne).

Der Grund für meine schwankenden Grübeleien ist, dass ich gerade mit Maurice (Mo) Steinman geplaudert habe, der VP of Engineering bei Lightelligence ist. Wir begannen mit der Betrachtung einiger Bilder, die wir alle schon einmal gesehen haben:

Die Skalierung von Transistoren bleibt hinter der Nachfrage zurück (Quelle: Lightelligence)

Auf der linken Seite sehen wir eine Abbildung, die ein Beispiel für die Skalierung von Prozessknoten zeigt, die – erstaunlicherweise – immer noch grob dem Mooreschen Gesetz folgt (wobei man sich daran erinnert, dass Moore ursprünglich eine Verdoppelung der Transistoren pro Flächeneinheit Silizium alle 12 Monate postulierte und dann überarbeitete). dies auf alle 24 Monate und dann wieder auf alle 18 Monate angepasst; also nicht so sehr ein „Gesetz“ als vielmehr eine flexible Faustregel, aber da sind wir).

Ich muss zugeben, dass mir die Tabelle rechts aufgefallen ist. Darin werden die Anforderungen an die Rechenleistung von Modellen der künstlichen Intelligenz (KI) und des maschinellen Lernens (ML) dargestellt. Dieses Diagramm wurde ursprünglich vor ein paar Jahren von OpenAI (den Erfindern von ChatGPT) veröffentlicht. Damals teilte man die Dinge in zwei Epochen ein.

Während der ersten Ära, die mit dem Dartmouth Workshop im Jahr 1956 begann und bis etwa 2012 andauerte, entsprachen die Rechenanforderungen für KI/ML in etwa dem Mooreschen Gesetz, was praktisch war. Im Jahr 2012 erlebten wir einen Wendepunkt, nach dem sich der KI/ML-Rechenbedarf alle 3,4 Monate zu verdoppeln begann. Der Grund, warum ich dies hier erwähne, ist, dass die aktualisierte Version des oben gezeigten Diagramms darauf hindeutet, dass sich der Rechenbedarf nun alle zwei Monate verdoppelt (siehe obere rechte Ecke). Eeek Alors! (Und das meine ich ganz aufrichtig.)

Ein wichtiger Punkt ist, dass es nicht nur auf die Berechnung und Verarbeitung von Daten ankommt, sondern dass wir uns auch um die Kommunikationsbandbreite und die Übertragung großer Datenmengen kümmern müssen. Glücklicherweise sind die Leute von Lightelligence auf der Mission, uns in jeder Phase des Spiels zu begleiten, von der optischen Berechnung in Form ihres oMAC-Servers über die optische Network-on-Chip-Technologie (oNOC) bis hin zu ihrem optischen Netzwerk (oNET). Lösung.

Skalierung von Rechenleistung und Kommunikation mit Photonik (Quelle: Lightelligence)

Eine etwas körperlichere Darstellung dieser Technologien ist unten dargestellt. Auf der linken Seite haben wir optisches Computing in Form von oMAC – der ersten vollständig integrierten Photonic-Computing-Plattform von Lightelligence – die eigentlich als Photonic Arithmetic Computing Engine (PACE) bekannt ist. Der Kern von PACE ist ein optischer 64 x 64-Matrix-Multiplikator, der NP-vollständige Probleme 100-mal schneller lösen kann als eine entsprechende GPU-basierte Lösung.

Skalierung von Rechenleistung und Kommunikation mit Photonik (Quelle: Lightelligence)

Auf der rechten Seite haben wir die optische Kommunikation in Form von oNET, dessen Bandbreite um Größenordnungen höher ist als die eines elektrischen Äquivalents, während es nur einen Bruchteil der Energie verbraucht und eine minimale Latenz bietet.

Und in der Mitte, mit einem metaphorischen Fuß sowohl im Bereich der optischen Datenverarbeitung als auch der optischen Kommunikation, haben wir die oNOC-Technologie von Lightelligence. Wie es das Schicksal wollte, werden wir uns im weiteren Verlauf dieser Kolumne auf das oNOC konzentrieren.

Wie wir in einer kürzlich erschienenen Kolumne „Sind Sie bereit für das Chiplet-Zeitalter?“ besprochen haben, sind Chiplets Ihr neuer bester Freund, wenn Sie ein Siliziumgerät mit 100B+ Transistoren bauen möchten! Eine Sache, über die ich bis zum Schreiben dieses Artikels nicht wirklich nachgedacht hatte, war, wie all diese Chiplets kommunizieren würden. Wie ich in einer anderen Kolumne geschrieben habe – Cheeky Chiplets Meet Super NoCs – denken viele Leute darüber nach, die reguläre Network-on-Chip-Technologie (NoC) zu erweitern, um „Super NoCs“ zu schaffen, die die Die-to-Die-Kommunikation (D2D) erleichtern.

Zur Erinnerung: Uns stehen alle möglichen NoC-Topologien zur Verfügung, von denen einige unten dargestellt sind.

Einige Beispiele für NoC-Topologien (Quelle: Max Maxfield)

Bis zu meinem Gespräch mit Mo hatte ich NoCs immer im Zusammenhang mit elektrischen (eNOC) Implementierungen betrachtet. Jetzt hat Mo mir die Augen für das Konzept optischer (oNOC) Realisierungen geöffnet, bei denen ein oder mehrere elektronische integrierte Schaltkreise (EICs) auf einem photonischen integrierten Schaltkreis (PIC) montiert werden, wobei alles im Inneren der Außenwelt präsentiert wird Form eines System-in-Package (SiP). Ein wichtiger Punkt hierbei ist, dass alle oben dargestellten NoC-Typologien (und weitere) als oNOCs implementiert werden können.

Optical Network on Chip (oNOC) (Quelle: Lightelligence)

All das bringt uns zu Hummingbird, das die Leute von Lightelligence als „den weltweit ersten Optical Network-on-Chip (oNOC)-Prozessor, der für domänenspezifische Arbeitslasten der künstlichen Intelligenz (KI) entwickelt wurde“ beschreiben.

Hummingbird ist das erste Produkt einer künftigen Produktfamilie. In diesem Fall ist ein einzelner EIC auf dem PIC montiert. Der EIC enthält 64 Kerne, die über ein optisches All-to-All-Broadcast-Netzwerk mit geringer Latenz verbunden sind, das 64 Sender und 512 Empfänger verwendet.

Die elektronischen und photonischen ICs von Hummingbird sind gemeinsam verpackt und in einen PCIe-Formfaktor integriert, der für die Installation in Servern nach Industriestandard bereit ist. In Verbindung mit dem Lightelligence Software Development Kit (SDK) können KI- und ML-Workloads optimiert werden, um die Vorteile des oNOC voll auszuschöpfen. Darüber hinaus können oNOC und Hummingbird IP für andere einzigartige Workloads und Anwendungen angepasst werden.

Der Hummingbird SiP (das große Gerät rechts in der Mitte) mit einem oNOC auf einer PCIe-Karte (Quelle: Lightelligence)

Abgesehen davon ist HOT CHIPS seit seiner Gründung im Jahr 1989 als eine der führenden Konferenzen der Halbleiterindustrie für Hochleistungs-Mikroprozessoren und verwandte integrierte Schaltkreise bekannt. Diese Veranstaltung findet einmal im Jahr im August im Zentrum der Welthauptstadt der Elektronikbranche, dem Silicon Valley, statt. Der Grund, warum ich das erwähne, ist, weil…

…Ich weiß, dass Ihre nächsten Fragen zu Hummingbird lauten werden: „Wie schnell geht es?“ und „Wie viel Strom verbraucht es?“ Ich bin so froh, dass du mir diese Poser präsentiert hast. Die kurze Antwort ist, dass ich es nicht weiß. Die längere Antwort lautet: Als ich Mo fragte, sagte er, er würde diese Informationen geheim halten, weil die Leute von Lightelligence auf der diesjährigen HOT CHIPS-Konferenz alle aus den Socken hauen werden. Diese Augustveranstaltung soll vom 27. bis 29. August 2023 stattfinden, also erst nächste Woche, wenn ich diese Worte schreibe. Ich kann nur sagen: Wenn Sie vorhaben, selbst an den HOT CHIPS teilzunehmen, sollten Sie elastische Socken tragen. Jetzt warte ich voller Angst …

…Sanft für alle, die enthüllt werden sollen (ich liebe die Szene „I See You Shiver in Anticipation“ in der Rocky Horror Picture Show). Während wir in der Zwischenzeit auf HOT CHIPS warten, um unsere Neugier zu stillen, könnte es Sie interessieren, dass meine Kollegin Amelia Dalton Anfang des Jahres Mo für einen Fish Fry-Podcast über Photonik und die Zukunft des optischen Rechnens interviewt hat. Und du? Haben Sie irgendwelche Gedanken, die Sie uns über alles, was Sie hier gelesen haben, mitteilen möchten?