Підвищення якості обслуговування громадян за допомогою GenAI та LLM.
Вступ
Коли міська адміністрація запроваджує нову політику, зазвичай потрібно багато співробітників служби підтримки клієнтів, щоб розібратися в її деталях та відповісти на запити громадян. Впровадження системи взаємодії людини та робота на основі генеративного штучного інтелекту (ШІ) у службу підтримки громадян може значно підвищити ефективність, доступність, точність та персоналізацію обслуговування. Ця технологія оптимізує розподіл ресурсів, масштабується для обробки попиту і надає цінні аналітичні дані. В результаті вона покращує загальну якість обслуговування громадян, забезпечуючи отримання ними точної та своєчасної інформації, а також звільняючи співробітників служби підтримки для виконання складніших завдань.
Завдання
Впровадження технологій штучного інтелекту до міської адміністрації зіткнулося з низкою перешкод:
Технічна інфраструктура та експертиза: Впровадження ШІ вимагає розвиненої технічної інфраструктури та кваліфікованого персоналу, що може бути дорогим та складним процесом як у придбанні, так і в обслуговуванні.
Упередженість у відповідях: Моделі LLM можуть успадкувати упередженість від навчальних даних, що призводить до упереджених або дискримінаційних відповідей. Це може призвести до непорозуміння та скарг з боку громадян, підриваючи довіру та авторитет.
Безперервне навчання та оновлення: Моделі LLM потребують регулярного оновлення та перепідготовки, щоб відповідати новим політикам, правилам та проблемам, що виникають. Це вимагає постійних інвестицій у збір даних та вдосконалення моделей.
Рішення Advantech
Для подолання цих труднощів замовник вибрав рішення для тонкого налаштування LLM AIR-520, яке включає наступні компоненти:
Серверна система AIR-520 Edge AI з твердотільним накопичувачем aiDAPTIV+ ai100 AI SSD: Ця серверна система, оснащена твердотілим накопичувачем ai100 SSD та запатентованим проміжним програмним забезпеченням, є простим та економічним рішенням для навчання та тонкого налаштування моделей всередині компанії.
Графічний інтерфейс користувача без необхідності написання коду для тонкого налаштування моделей: Зручний графічний інтерфейс користувача (GUI) без необхідності написання коду дозволив замовнику тонко налаштовувати моделі ШІ з використанням локальних наборів даних, підвищуючи якість і точність згенерованого контенту.
Співпраця з незалежними постачальниками програмного забезпечення для створення індивідуального рішення LLM для локальної установки: У поєднанні з послугами зі створення індивідуального рішення LLM, які надає наш партнер-постачальник програмного забезпечення, Advantech допоміг замовнику усунути технічні бар'єри, запропонувавши комплексний пакет, що забезпечує швидкий вихід на ринок без проблем із сумісністю або інтеграцією. Інтегроване рішення автоматизує процес навчання, прискорює розгортання та постійно підвищує якість обслуговування шляхом збору історичних відповідей на питання та виправлень контенту на периферії мережі.
Переваги
- Вивільнення 80% людських ресурсів: Обробляючи рутинні запити, LLM дозволяють співробітникам служби підтримки клієнтів зосередитися на більш складних, пріоритетних випадках, що вимагають людського судження та емпатії.
- Цілодобова доступність: LLM-и, що працюють на платформі AIR-520, забезпечують цілодобову підтримку, гарантуючи, що громадяни можуть отримати допомогу у будь-який час, навіть поза звичайним робочим часом. Це підвищує доступність та оперативність.
- Перевірене комплексне рішення: Advantech та незалежний розробник програмного забезпечення надали інтегроване комплексне рішення, що забезпечує безперебійну розробку, розгортання та постійне вдосконалення.