Generative KI hat mit ihrer Fähigkeit, Inhalte zu erzeugen, die ein menschliches Verständnis imitieren, verschiedene Branchen verändert, vom kreativen Schreiben bis hin zur Softwareentwicklung.

 

Doch selbst die derzeit fortschrittlichsten Lösungen können dazu führen, dass ungenaue oder unsinnige Informationen erzeugt werden, die gemeinhin als "Halluzinationen" bezeichnet werden. Dies schränkt die Zuverlässigkeit der generierten Inhalte ein. Sie müssen manuell überprüft werden, um Fehler zu beseitigen. Die Verbesserung der Genauigkeit generativer KI ist daher von entscheidender Bedeutung. Die Integration verlässlicher Verifikationsmethoden ist ein Weg diese Fehler zu minimieren. Der HQS Modeling Assistant ist ein konkreter Beitrag dazu, die generative KI mit diesen fehlenden Fähigkeiten auszustatten.

 

Die Idee

Der Modeling Assistant nutzt Large Language Models (LLMs), deren Leistungsfähigkeit in den letzten Jahren exponentiell zugenommen hat. Obwohl diese Modelle extrem vielseitig und effektiv sind, fehlt es ihnen an spezifischen Fähigkeiten, z.B. können sie keine mathematischen Berechnungen durchführen, keine Resultate validieren, und es fehlt ihnen an spezifischem Wissen über spezielle Software, die von Interesse sein könnte. Der Modeling Assistant schließt diese Lücken, indem er zusätzliche Werkzeuge einsetzt, die Unstimmigkeiten in den erzeugten Daten erkennen und korrigieren können und den LLM zur Durchführung komplexerer Aufgaben befähigen. Das Ergebnis ist eine Verbesserung der Qualität und Zuverlässigkeit der von ihm erzeugten Inhalte und eine effektive Erweiterung der Fähigkeiten des LLM.

 

Die Umsetzung

Ein Beispiel für eine solche Verbesserung ist die Datenvalidierung. LLMs sind in der Lage, Daten mit hoher Genauigkeit aus Texten zu extrahieren, aber sie verfügen nicht über eine integrierte Methode zur Überprüfung der Kohärenz dieser Daten. Dies kann bei der Durchführung solcher Aufgaben zu "Halluzinationen" führen. Der Grund dafür ist, dass die extrahierten Daten möglicherweise bestimmten Regeln folgen müssen, um gültig zu sein, diese Regeln jedoch nicht inhärent in den LLMs kodiert sind. Ein Beispiel wäre die Extraktion von Finanzdaten aus Berichten und die Überprüfung ihrer Gültigkeit: einige Zahlen könnten nicht die richtigen Summen ergeben. Mit dem Modeling Assistant werden diese Informationen aus dem LLM extrahiert, an das Hintergrundsystem übertragen und dort verarbeitet. Anschließend wird eine Rückmeldung an das LLM gesendet, das nun zusätzliche Informationen über den Validierungsprozess hat und eventuelle Fehler beheben kann.

 

Was ist der Nutzen?

Der Modeling Assistant wird derzeit eingesetzt, um die NutzerInnen der von uns entwickelten Simulationssoftware zu unterstützen. Die Softwarearchitektur, die um die LLMs herum aufgebaut ist, ist jedoch vollständig modular und erlaubt es, den Modeling Assistant beliebig zu "formen". Ausgestattet mit den verschiedenen notwendigen Zusatzfunktionen, wird der Werkzeugkasten des Modeling Assistant spezifisch für die vorliegende Aufgabe bestückt. Das ermöglicht es uns, Problemstellungen unterschiedlichster Art anzugehen, ohne Einschränkung auf eine spezifische Anwendung: Von der Unterstützung von AnwenderInnen bei einer bestimmten wissenschaftlichen Software bis hin zur Unterstützung bei der Extraktion kohärenter Daten aus umfangreichen Dokumenten, der Strukturierung ungeordneter Daten in bestimmte Formate und so weiter.

 

Fazit

Zu diesem Verfahren wurde eine Patentanmeldung eingereicht:  Durch diese innovative und leistungsfähige Interaktion zwischen dem Modeling Assistant und dem LLM werden die Fähigkeiten der generativen KI weiter verbessert, und es eröffnen sich zahlreiche Anwendungsmöglichkeiten.

 

 

Autoren: Dr. Fabio Covito, Lead Developer HQS Modeling Assistant, Senior Expert Condensed Matter Systems bei HQS Quantum Simulations

 

Bildquelle: HQS Quantum Simulations