Innovative Codes: Forscher haben ein KI-System entwickelt, das komplexe mathematische Probleme auf innovative und maximal transparente Weise löst. Denn statt nur die Lösung zu präsentieren, schreibt die künstliche Intelligenz die Algorithmen und Programmcodes, die die gesuchten Lösungen produzieren. Für zwei offene Probleme der Kombinatorik hat die „Fun Search“ getaufte KI bereits innovative Lösungen geliefert, die über das bisher von Mathematikern Erreichte hinausgehen, wie das Team in „Nature“ berichtet.
Auf neuronalen Netzen beruhende künstliche Intelligenzen zeigen inzwischen erstaunliche Leistungen – auch in der Wissenschaft. Sie entwerfen Experimente, analysieren Daten, entwickeln chemische Synthesewege, physikalische Gleichungen oder mathematische Beweise und schreiben obendrein Fachartikel, die selbst von erfahrenen Gutachtern nicht immer als KI-generiert erkannt werden.
Das Problem jedoch: Vor allem die großen Sprachmodelle (LLM) erzeugen häufig „Halluzinationen“ – plausibel klingenden Unsinn, der gerade bei komplexeren Aufgaben schwer zu identifizieren ist. „Dies behindert den Einsatz der aktuellen KI-Modelle in der Wissenschaft“, erklären Bernardino Romera-Paredes von Google DeepMind und seine Kollegen. „Denn es ist schwer, mit diesen Systemen nachweisbar korrekte Innovationen und Entdeckungen zu machen.“
Lösungsprogramm statt Zahlen und Formeln
Abhilfe könnte nun eine von den DeepMind-Forschern entwickelte Mathematik-KI schaffen: FunSearch – kurz für „Suche im Funktionsraum“. Sie ist darauf ausgelegt, neue Lösungen für komplexe mathematische Probleme beispielsweise in der Kombinatorik zu finden. Das Besondere jedoch: “FunSearch zeigt, wie solche Lösungen erreicht werden können, statt nur die Lösung selbst zu liefern“, erklärt Romera-Paredes.
Konkret bedeutet dies: Die künstliche Intelligenz gibt nicht einfach nur Zahlen oder Formeln als Lösung für das gestellte Mathematikproblem aus – sie entwickelt Algorithmen und schreibt Computerprogramme, die dann für das Knacken des Problems eingesetzt werden. Weil diese Programme auf nachprüfbare und im Code ersichtliche Weise arbeiten, umgeht dies das Black-Box-Problem gängiger KI-Systeme. Dieses beschreibt die Tatsache, dass selbst die Entwickler großer KI-Modelle wie GPT-4 und Co inzwischen nicht nachvollziehen können, wie und warum ihre Systeme bestimmte Outputs generieren.
Im Gegensatz dazu liefert FunSearch erst die Werkzeuge und Lösungswege, die Mathematiker für die Lösung des spezifischen Problems brauchen. Dann produzieren diese Werkzeuge neue Lösungen. „FunSearch verschiebt damit die Grenzen der LLM-gestützten Entwicklung“, erklären die Forscher.
Wechselspiel von Sprachmodell und Prüfmodul
Doch wie funktioniert die neue KI? Schlüssel für die Fähigkeiten von FunSearch ist sein zweiteiliger Aufbau. „Der erste Teil ist ein vortrainiertes großes Sprachmodell, dessen Ziel es ist, kreative Lösungen in Form von Programmiercode zu liefern“, berichtet Romera-Paredes. Das LLM, eine Version des aufs Codieren trainierten KI-Modells PaLM2, bekommt als Eingabe eine in Programmcode übersetzte Beschreibung des mathematischen Problems. Die künstliche Intelligenz nutzt dies als Basis, um verschiedene Lösungsalgorithmen für das gegebene Problem zu entwickeln.
An diesem Punkt kommt die zweite Komponente von FunSearch ins Spiel: Ein automatisierter Evaluator prüft jeden vom LLM erzeugten Programmcode und sortiert fehlerhafte, nicht lauffähige Scripte aus. Dann analysiert das System die Algorithmen auf Basis des bestehenden mathematischen Wissens, um Halluzinationen zu eliminieren. Die besten nach dieser Prüfung verbliebenen Programmcodes gibt der Evaluator wieder an das LLM zurück, das auf deren Basis weitere Programme erstellt.
„Dies erzeugt eine sich selbst verbessernde Schleife. Durch das Hin-und-Her zwischen den beiden Komponenten entstehen aus den anfänglichen Lösungsansätzen neue, innovativere Erkenntnisse“, beschreibt Romera-Paredes das Prinzip.
Neue Lösungsalgorithmen für die Kombinatorik
Wie gut FunSearch echte mathematische Probleme lösen kann, testete das Team an zwei Beispielen. Das erste ist das sogenannte „Cap Set“-Problem aus der Kombinatorik. In dieser geht es – vereinfacht gesagt – darum, zu ermitteln, wie viele Knotenpunkte ein multidimensionales Netzwerk haben kann, ohne dass drei Punkte darin auf einer Linie liegen. Weil die Zahl der Möglichkeiten mit jeder Dimension im Netz rasant ansteigt, gibt es bisher nur Lösungen für n ≤ 6, wie die Forschenden erklären.
Das neue KI-System schaffte es, die von Mathematikern entwickelten Lösungen zu übertreffen: „FunSearch fand für n ≤ 8 ein größeres Cap Set als bisher bekannt“, berichten Romera-Paredes und seine Kollegen. Dies repräsentiere den größten Zuwachs der letzten 20 Jahre für dieses Problem und sei mehr, als die besten gängigen Computermodelle leisten können. „Darüber hinaus entwickelte FunSearch auch ein Programm, dass diese Vektorensätze generieren kann“, so das Team.
FunSearch knackt das Behälterproblem
Ebenfalls erfolgreich war die künstliche Intelligenz bei der zweiten Aufgabe, dem sogenannten Behälterproblem. Dabei geht es darum, Objekte auf eine möglichst geringe Anzahl von Behältern fester Größe aufzuteilen. Das können Güter sein, die effizient auf Lastwagen oder Container verteilt werden müssen, aber auch Datenpakete, die auf Computerkerne oder Prozessoren in einem Datenzentrum aufgeteilt werden. „Regeln für jeden spezifischen Fall zu finden, kann zur Herausforderung werden“, sagt Romera-Paredes.
Bisher lässt sich das Behälterproblem nur näherungsweise lösen. „FunSearch erstellte dafür ein maßgeschneidertes Programm, das die etablierten Heuristiken übertraf: Es benötigte weniger Behälter, um die gleiche Zahl an Objekten zu verpacken“, berichten die Forscher.
Auch auf andere Problemlösungen anwendbar
Nach Ansicht von Romera-Paredes und seinem Team demonstrieren diese Ergebnisse, dass sich große Sprachmodelle nutzen lassen, um innovative mathematische Entdeckungen zu machen, aber auch um potenziell bedeutende Lösungen für praktische Probleme zu finden – und dies ohne die Gefahr von Halluzinationen.
Noch ist der Anwendungsbereich von FunSearch zwar relativ eng begrenzt, das Team sieht aber gute Chancen, diesen in Zukunft zu erweitern. „Für viele Probleme in Wissenschaft und Industrie könnte es in Zukunft alltäglich werden, sich mithilfe solcher LLM-basierten Ansätze effektive und maßgeschneiderte Algorithmen erstellen zu lassen“, so die Wissenschaftler. (Nature, 2023; doi: 10.1038/s41586-023-06924-6)
Quelle: Nature, Google DeepMind
