Advantech повідомляє про успішну демонстрацію генеративного штучного інтелекту за допомогою MIC-733-AO на базі NVIDIA® Jetson AGX Orin™.
MIC-733 демонструє розробникам ШІ (штучного інтелекту) переваги більш оперативної роботи, підвищеної безпеки та зниження витрат на інтернет порівняно з хмарним генеративним ШІ.
Генеративний ШІ на MIC-733-AO
Гранична система генеративного ШІ MIC-733-AO від Advantech, сумісна з моделями генеративного ШІ NVIDIA з лабораторії Jetson AI, тепер ефективно працює з великими мовними моделями (LLM), моделями мови зору (VLM), трансформаторами зору (ViT), генерацією зображень і граничними обчисленнями Llamaspeak, завдяки NVIDIA® Jetson AGX Orin™. Унікальність платформи охоплює декілька рівнів, включаючи прискорення обчислення, життєво важливе програмне забезпечення для штучного інтелекту та попередньо навчені моделі, полегшуючи створення, налагодження та розгортання генеративних моделей ШІ, придатних для різних застосунків і локацій.
За допомогою генеративних моделей ШІ з лабораторії Jetson AI розробники можуть використовувати метод генерації з розширенням пошуку (RAG), підключаючи LLM і VLM до бази знань компанії. Такий підхід усуває необхідність у традиційному навчанні моделей ШІ, даючи змогу в результаті простої розмовної взаємодії з системою отримувати висновки ШІ, що значно скорочує час розробки.
Advantech MIC-733-AO має високу продуктивність ШІ та безліч відеоінтерфейсів, як-от IP-камери, промислові камери USB/gigE, камери GMSL, LiDAR та інші, що дає змогу працювати з генеративними моделями ШІ на границі. Його винятковий дизайн відводу тепла запобігає гарячим збоям, навіть коли NVIDIA® Jetson AGX Orin™ працює на повну потужність.
Граничний генеративний ШІ для додатків із високою швидкістю реагування.
Генеративний ШІ робить революцію у взаємодії людини і комп'ютера, створюючи новий контент з різних вхідних і вихідних даних, таких як текст і зображення. Зміщення попиту з хмарних до граничних обчислень робить GenAI ідеальним рішенням для середовищ з високою швидкістю відгуку і низькою затримкою.
Генеративний штучний інтелект на основі технології граничного обчислення має низку переваг порівняно рішеннями хмарного обчислення:
Інформаційна безпека
Дані залишаються всередині граничної системи, що дає змогу уникнути ризиків кібербезпеки, пов'язаних із передачею даних у хмару.
Стабільне підключення до мережі
Немаючи бездротового підключення, гранична система зберігає дані локально до відновлення мережі, на відміну від хмарного ШІ, який перестає функціонувати без мережі.
Низькі витрати на передачу даних
Граничний ШІ не несе ніяких витрат на передачу даних, оскільки зв'язок з бекендом не потрібен, а потрібна тільки передача даних з низькою пропускною спроможністю, що економніше, ніж більш висока вартість пропускної здатності хмарних вивантажень.
Граничні обчислення генеративного ШІ являють собою майбутнє ери ШІ.
Система генеративного ШІ MIC-733-AO Edge, інтегрована з моделями генеративного ШІ NVIDIA з лабораторії Jetson AI, пропонує просте рішення для розробників ШІ і вже доступна на ринку.