Erweiterung großer Sprachmodelle durch Vektoreinbettungen zur Verbesserung der domänenspezifischen Reaktionsfähigkeit

Unsere Forschung konzentriert sich auf eine Vielzahl von Anwendungen des maschinellen Lernens und großer Sprachmodelle in der Krebsbehandlung. Dazu gehören sowohl die Verbesserung der direkten Patientenversorgung als auch die Bewältigung betrieblicher Herausforderungen wie Terminplanung und Dokumentation. Letztendlich versuchen wir, die Frage zu beantworten: Wie können diese Technologien die Gesundheitsversorgung für Patienten, Anbieter und Forscher verbessern?

Große Sprachmodelle haben bereits begonnen, die Forschungslandschaft zu verändern. Bisher unerschwingliche Aufgaben zur Verarbeitung natürlicher Sprache sind für viel mehr Forscher zugänglich geworden, was viele neue Forschungslinien mit unstrukturierten Daten ermöglicht. Eine große Herausforderung ist die sich schnell verändernde Landschaft großer Sprachmodellwerkzeuge und -infrastrukturen.

Viele Kliniker und Forscher haben zwar Ideen für Anwendungen, verfügen aber derzeit nicht über das für die Implementierung erforderliche kontextuelle oder technische Wissen oder über die sorgfältige Abwägung von Kompromissen verschiedener Ansätze. Um mit der Installation von Git, Python und PIP auf dem Computer zu beginnen, und führen Sie die Befehle in einem Terminal aus, um die Installation zu überprüfen. Führen Sie dann den Befehl git clone aus, um das Repository herunterzuladen und die erforderlichen Anforderungen zu installieren.

Um eine Vektordatenbank zu erstellen, bearbeiten Sie die Konfiguration. py-Datei, und ersetzen Sie den Wert der folgenden Variablen durch den Dateipfad zu dem Ordner mit den Dokumenten, die zur Erweiterung des großen Sprachmodells verwendet werden. Speichern Sie dann die aktualisierte Datei im Artikelverzeichnis.

Führen Sie als Nächstes in einem Terminal im selben Verzeichnis den Code mit dem Befehl Python 3 build index aus, um die Datenbank zu erstellen und beizubehalten. Überprüfen Sie, ob die Datenbank jetzt im Ordner vector database gespeichert ist. Um das erweiterte LLM abzufragen, führen Sie das Python 3 run augmented llm aus.

py-Befehl im Terminal. Testen Sie Benutzerabfragen, um Antworten zu erhalten, die durch die Daten aus der Dokumentenmappe ergänzt werden. Drücken Sie dann Strg plus C, um den Vorgang zu beenden, wenn Sie fertig sind.

Um MCQs zu erstellen, bearbeiten Sie die Dateifragen. py, wobei das Format der Beispiele zu beachten ist. Fügen Sie Fragen in einem ähnlichen Format hinzu und speichern Sie die Datei.

Um die Konfiguration zu bearbeiten. pi-Datei, fügen Sie den API-Schlüssel für Open AI oder Hugging Face. Wenn das Ziel darin besteht, ein Benchmarking mit Modellen eines der beiden Anbieter durchzuführen.

Speichern Sie nun die Datei. Bearbeiten Sie dann die Vergleichsdateien. py-Datei, und wählen Sie die Modelle aus, mit denen getestet werden soll.

Nachdem Sie die Modelle auskommentiert haben, mit denen verglichen werden soll. Führen Sie abschließend in einem Terminal den Code mit dem Befehl compare llms aus und zeigen Sie nach der Ausführung die Modellantworten im angegebenen Ordner zur Benotung oder anderen Überprüfung an. Unter den getesteten MCQs schnitt das Einbettungsmodell deutlich besser ab als das Basismodell, ebenso wie die erweiterten offenen KI-Modelle.