Повышение качества обслуживания граждан с помощью GenAI и LLM.
Вступление
Когда городская администрация вводит новую политику, обычно требуется множество сотрудников службы поддержки клиентов, чтобы разобраться в её деталях и ответить на запросы граждан. Внедрение системы взаимодействия человека и робота на основе генеративного искусственного интеллекта (ИИ) в службу поддержки граждан может значительно повысить эффективность, доступность, точность и персонализацию обслуживания. Эта технология оптимизирует распределение ресурсов, масштабируется для обработки возросшего спроса и предоставляет ценные аналитические данные. В результате она улучшает общее качество обслуживания граждан, обеспечивая получение ими точной и своевременной информации, а также освобождая сотрудников службы поддержки для выполнения более сложных задач.
Задачи
Внедрение технологий искусственного интеллекта в городскую администрацию столкнулось с рядом препятствий:
Техническая инфраструктура и экспертиза: Внедрение ИИ требует развитой технической инфраструктуры и квалифицированного персонала, что может быть дорогостоящим и сложным процессом как в приобретении, так и в обслуживании.
Предвзятость в ответах: Модели LLM могут унаследовать предвзятость от обучающих данных, что приводит к предвзятым или дискриминационным ответам. Это может привести к недопониманию и жалобам со стороны граждан, подрывая доверие и авторитет.
Непрерывное обучение и обновление: Модели LLM нуждаются в регулярном обновлении и переподготовке, чтобы соответствовать новым политикам, правилам и возникающим проблемам. Это требует постоянных инвестиций в сбор данных и совершенствование моделей.
Решения Advantech
Для преодоления этих трудностей заказчик выбрал решение для тонкой настройки LLM AIR-520, которое включает в себя следующие компоненты:
Серверная система AIR-520 Edge AI с твердотельным накопителем aiDAPTIV+ ai100 AI SSD: Эта серверная система, оснащенная твердотельным накопителем ai100 SSD и запатентованным промежуточным программным обеспечением, представляет собой простое и экономичное решение для обучения и тонкой настройки моделей внутри компании.
Графический интерфейс пользователя без необходимости написания кода для тонкой настройки моделей: Удобный графический интерфейс пользователя (GUI) без необходимости написания кода позволил заказчику тонко настраивать модели ИИ с использованием локальных наборов данных, повышая качество и точность генерируемого контента.
Сотрудничество с независимыми поставщиками программного обеспечения для создания индивидуального решения LLM для локальной установки: В сочетании с услугами по созданию индивидуального решения LLM, предоставляемыми нашим партнером-поставщиком программного обеспечения, Advantech помог заказчику устранить технические барьеры, предложив комплексный пакет, обеспечивающий быстрый выход на рынок без проблем с совместимостью или интеграцией. Интегрированное решение автоматизирует процесс обучения, ускоряет развертывание и постоянно повышает качество обслуживания за счет сбора исторических ответов на вопросы и исправлений контента на периферии сети.
Преимущества
- Высвобождение 80% человеческих ресурсов: Обрабатывая рутинные запросы, LLM-ы позволяют сотрудникам службы поддержки клиентов сосредоточиться на более сложных, приоритетных случаях, требующих человеческого суждения и эмпатии.
- Круглосуточная доступность: LLM-ы, работающие на платформе AIR-520, обеспечивают круглосуточную поддержку, гарантируя, что граждане могут получить помощь в любое время, даже вне обычного рабочего времени. Это повышает доступность и оперативность.
- Проверенное комплексное решение: Advantech и независимый разработчик программного обеспечения предоставили интегрированное комплексное решение, обеспечивающее бесперебойную разработку, развертывание и постоянное совершенствование.