Дополнение больших языковых моделей с помощью векторных встраиваний для улучшения отзывчивости, специфичной для предметной области

Наши исследования сосредоточены на широком спектре приложений машинного обучения и больших языковых моделей в лечении рака. Это включает в себя как улучшение непосредственного ухода за пациентами, так и решение операционных проблем, таких как планирование и документирование. В конечном счете, мы пытаемся ответить на вопрос: как эти технологии могут улучшить здравоохранение для пациентов, поставщиков услуг и исследователей?

Большие языковые модели уже начали трансформировать исследовательский ландшафт. Ранее непомерно сложные задачи обработки естественного языка стали доступны гораздо большему числу исследователей, что позволило провести множество новых направлений исследований с использованием неструктурированных данных. Основной проблемой является быстро меняющийся ландшафт инструментов и инфраструктуры больших языковых моделей.

У многих клиницистов и исследователей могут быть идеи для приложений, но в настоящее время они не обладают контекстуальными или техническими знаниями, необходимыми для реализации, или вдумчивым рассмотрением компромиссов различных подходов. Чтобы начать, установите Git, Python и PIP на компьютер и выполните команды в терминале, чтобы проверить установку. Затем выполните команду git clone, чтобы загрузить репозиторий и установить необходимые требования.

Чтобы создать векторную базу данных, отредактируйте конфиг. py, заменив значение следующей переменной на путь к файлу к папке, содержащей документы, которые будут использоваться для дополнения большой языковой модели. Затем сохраните обновленный файл в директории articles.

Затем в терминале в том же каталоге выполните код с помощью команды Python 3 build index для создания и сохранения базы данных. Проверьте, сохранена ли база данных в папке векторной базы данных. Чтобы запросить дополненный LLM, выполните команду Python 3 run augmented llm.

py в терминале. Тестируйте запросы пользователей для получения ответов, дополненных данными из набора документов. Затем нажмите Control плюс C, чтобы выйти после завершения.

Для создания MCQ отредактируйте файл вопросов. py, обращая внимание на формат примеров. Добавьте вопросы в аналогичном формате и сохраните файл.

Чтобы отредактировать конфиг. pi, добавьте ключ API для открытого ИИ или обнимающегося лица. Если цель состоит в том, чтобы сравнить модели от любого из поставщиков.

Теперь сохраните файл. Затем отредактируйте сравнительные llm. py и выберите набор моделей для тестирования.

После раскомментирования моделей для сравнения. Наконец, в терминале выполните код с помощью команды compare llms и после выполнения просмотрите ответы модели в указанной папке для оценки или другого обзора. Среди протестированных MCQ встраиваемая модель показала значительно лучшие результаты, чем базовая, как и дополненные модели открытого искусственного интеллекта.