Оценка дорожно-транспортных происшествий с помощью LLM
Составление документов по рассмотрению дорожно-транспортных происшествий традиционно является трудоемким процессом и сопряжено с высокой вероятностью ошибок. Каждый документ требует строгого соблюдения юридической терминологии, нормативных требований и логической последовательности. Ручной подход часто предполагает многократные проверки, что отнимает драгоценное время, снижает эффективность и подрывает доверие общественности к справедливости.
Благодаря внедрению технологий искусственного интеллекта и больших языковых моделей (LLM) надзорные органы могут оптимизировать этот процесс. LLM анализируют мультимодальные данные о ДТП, включая текстовые отчеты, видео и изображения, извлекают важную информацию и автоматически генерируют структурированные результаты, такие как оценки безопасности, отчеты о столкновениях и страховые заявления. Такой подход значительно повышает точность, эффективность и использование ресурсов.
Задачи
Клиент из Тайваня запросил решение на основе LLM для решения следующих задач:
- Высокие затраты на обеспечение безопасности данных: управление конфиденциальными юридическими данными на облачных платформах требует значительных инвестиций в защиту конфиденциальности и безопасную передачу данных.
- Интеграция знаний: включение сложных внутренних баз знаний требует значительных усилий и времени, что снижает общую эффективность.
- Постоянная точность: крайне важно обеспечить соответствие LLM строгим правовым нормам, требованиям безопасности данных и конфиденциальности. Для поддержания точности и надежности необходимо решение для тонкой настройки.
Решение Advantech
Advantech предоставляет комплексные локальные интегрированные аппаратно-программные решения LLM для документирования дорожно-транспортных происшествий, включая высокопроизводительную систему инференции LLM AIR-030, систему тонкой настройки LLM AIR-520 (поддерживающую Gemma 3 27B) и Edge AI SDK/GenAI Studio. Эти решения полностью развернуты на периферии, что обеспечивает безопасность и конфиденциальность данных.
Advantech GenAI Studio предлагает полный рабочий процесс для дообучения (fine-tuning) и обучения LLM, позволяя заказчику организовывать справочные материалы — такие как правила дорожного движения, записи о ДТП, рекомендации комитетов и отчёты по судебным решениям — в структурированный датасет «вопрос–материал» (Question-Asset) на edge AI платформе AIR-520. С помощью GenAI Studio заказчик может загрузить модель Gemma 3 27B и выполнить её дообучение. После завершения обучения проверка и тестирование модели могут быть выполнены непосредственно в системе. Перед развёртыванием дообученной модели в сервис инференса чат-бота GenAI Studio также поддерживает конвертацию модели в квантизированную версию INT4, что значительно повышает эффективность инференса.
Весь сквозной процесс — от подготовки датасета, обучения и валидации до развёртывания — был полностью выполнен на edge-сервере AIR-520, оснащённом процессором AMD EPYC 7003, двумя графическими ускорителями NVIDIA RTX™ 6000 Ada и AI SSD-накопителями ai100 объёмом 2 ТБ. AIR-520 помогает снизить затраты за счёт расширения объёма видеопамяти GPU. Интегрированный блок питания мощностью 1200 Вт (общая выходная мощность 700 Вт) обеспечивает надёжную круглосуточную работу 24/7.
Затем отлаженная модель развертывается на граничной системе искусственного интеллекта AIR-030, ускоренной NVIDIA Jetson AGX Orin™, вместе с Edge AI SDK, для размещения отлаженной и квантизированной модели Gemma 3 27B и предоставления специальных услуг по выводу LLM. В целом, интегрированное решение Advantech не только оптимизирует процесс проверки документов, извлечения данных и генерации отчетов, но и обеспечивает экономическую эффективность при масштабировании на нескольких площадках.
Преимущества
- Ожидается, что эффективность работы повысится более чем на 60%, сократив время на составление документов по судебным решениям с часов/дней до минут.
- Снижение уровня ошибок, минимизация споров, вызванных ошибками при ручном составлении документов или ошибками в суждениях.
- Юристы могут сосредоточиться на более сложном анализе дел, что позволяет действительно оптимизировать распределение человеческих ресурсов.
- Повышение доверия со стороны общественности, обеспечение централизованной обработки данных и формирование имиджа правительства.