Підтримка для підприємств та адміністрацій, щоб краще оцінити та планувати проекти з використанням штучної інтеллекту. У кількох семінарах зі штучною інтелегенцією деякі питання зацікавлених осіб виявилися особливо актуальними. В цьому статті називаються питання із практики та відповідають їм у практичному плані.
Вступ
Хтось хто хоче вирішити проблему з КІ, часто не знає чи це можливо і який буде рівень витрат. Наступна практично-орієнтована збірка відповідей на питання щодо рішень із застосуванням КІ показує, що можливе.
Питання походять зокрема з одного недавнього вебінару, але також із інших контактів із клієнтами та зацікавленими особами. Відповіді ґрунтуються на досвіді виконання проектів, у яких виконувалися бажання клієнтів.
Можливі застосування в підприємствах можна дуже добре і економічно розв'язати власною КІ.
Проекти включали всі необхідний вміст з програмування КІ. Для використання використовувалися завжди відкриті джерела моделі КІ та іноді інтерфейси до ChatGPT, Claude 3, Command R+ або інших комерційних мовних моделей.
Відповіді на вказані питання повинні надати орієнтир для краще пізнання, оцінки, планування та проведення проектів з штучного інтелекту.
Питання з практики щодо штучного інтелекту та відповіді
У друці вказується питання, а під ним — відповідь у вигляді звичайного тексту.
Який застосунок особливо добре підходить для входу в КІ?
З огляду на дуже добрі результати та низькі вимоги до обладнання такі приклади застосування дуже добре підходять для початку роботи з рішеннями AI – за умови, звичайно, без використання ChatGPT!
- Вивчення знань: власні документи або тикети у системи обліку відвідувати.
- Пошукова функція Вебсайт: Інтелектуальна функція пошуку для текстів та PDF на власній вебсторінці.
- Безпекозахист: На основі попередніх випадків надати рекомендацію працівнику щодо обробки поточної скарги.
- Регулювання збитків: Аналогічно до управління скаргами.
- Інтелектуальна інтернет-розсічка: отримувати результати пошуку з пошукової системи (через інтерфейс/API) та інтелектуально фільтрувати їх. Із 1000 відповідей видаляти непотрібні результати.
- Система відповідей на часто запитувані питання: Вимогою є або пари питань та відповідей, або документи, які містять відповіді (питання, яким відповідають такі документи, можуть бути синтетично згенеровані).
- Класифікація документів, текстів, заголовків, зображень, сигналів: призначення кожного документа до однієї із декілька визначених категорій. Автоматичне навчання правильних категорій. Можлива висока точність.
Ці програми можуть виконуватися на власній техніці вашої компанії або організації без необхідності відправляти дані третім особам.
Які застосування підійдуть далі для рішення з КІ?
В особливому порядку слід згадати:
- Чат-бот / Вірусний асистент: Розмовляюча з пам'яттю, відповідь власними словами, використання інтернет-інформації для знаходження відповідей …
- Текстогенерація: Створення високоякісних творчих текстів, наприклад для блогових статей; Об'єднання змісту документів
- Об'єктна ідентифікація: визнавання класів об'єктів (людей, будинків тощо) на знімках та відео, розуміння руху.
- Генерування зображень: Створення зображень за попередньо вказаними текстовими вимогами, створення зображень подібних до вхідного зображення. Автоматизована перевірка авторських прав можлива.
- Переклад мови та тексту: Транскрипція, мовна втілення, переклад з однієї мови на одну із 100 інших мов.
Високий рівень витрат тут часто не спостерігається. Відповідно лише технічні вимоги більші ніж для випадків використання які згадані раніше.
Що таке Офлайн-КІ?
Офлайн-КІ – це оптимізована штучна інтелект, яка працює без інтернет-зв'язку, але може спілкуватися з зовнішнім світом за необхідністю.
Переваги:
- Повна перевірка даних
- Часом краще результати ніж ChatGPT, Gemini тощо
- Часто дешевше
Більше інформації про офлайн-інтелектуальну систему
Які часові ресурси реалістичні для проекту з штучною інтелектом?
Для прототипу та проведення досліджень про можливості витрачається дуже мало часу. Коли мова йде про обробку ваших даних, дані (як завжди) повинні бути завантажені. Це звичайна робота.
Час працює на вашу користь: почніть свій проект з КІ, тоді ви зможете бути впевнені, що технічний прогрес у сфері КІ сприятиме вам протягом кількох місяців.
Як легко можна обміняти одне КІ-мовний модуль на інше?
Коротко кажучи: майже завжди це можливе. Багато мовних моделей дотримуються однієї й тієї ж архітектури системи. Вони можуть бути заміщені шляхом зміни декілька рядків коду. Нові, кращі мовні моделі можна використовувати як Drop-In Replacement, щоб використати технічний термін.
Як високі ліцензійні витрати для програм КІ та мовних моделей КІ?
Ринок відкритого джерела у сфері КІ пропонує дуже високу якість та актуальність, яка не може бути порівняна з жодним іншим ринком відкритого джерела.
Це стосується як фреймворків з AI, так і мовних моделей AI (та інших моделей AI).
Ліцензійні витрати, коротко кажучи, нічого не коштують.
Андерш побачує це, коли використовується API від ChatGPT тощо. Тут виникають витрати, які залежать від інтенсивності використання.
Чи можливо працювати з КІ на власній апаратній основі?
Так. Пластичний приклад із практики: Цей текст був написаний на ноутбуці, на якому працюють моделі мови KI з 30 мільярдами параметрів (моделі 30B). Що можливо зробити на ноутбуці, справді працює на сервері KI.
Замість Сервер AI: either rent (from German or purely European providers) or buy. The main costs when buying are the costs of graphics card(s).
Для багатьох випадків використання, як наприклад пошук інформації або генерація рекомендацій щодо повідомлень про збої чи скарг клієнтів, достатньо лише Мінімальне обладнання.
Якою велика є обставинність для застосування КІ?
Побутовий обсяг праці більш низький, ніж у інших інформаційних системах, часто навіть рівний нулю. Якщо наявні нові документи знань, вони можуть бути автоматизовано прочитані та оброблені. Обсяг праці виникає природно тоді, коли збирається нове знання для подальшого поліпшення якості системи або додавання нових знань. Без додаткового внесення нового знання обсяг праці майже рівний нулю.
Чи можна додати нові знання до застосунку з інтелектуальної системи після його запуску?
Так, це можливо багатьма способами.
Найпростіший спосіб — це вибірка нових знань, які відповідають запитуванню користувача, щоб подати їх моделюванню мови для полегшення відповіді.
Навіть краще – це підтримувати розвиток мовного моделю, надсиланням йому нових даних. Модель продовжує навчатися.
Для навчання штучній інтелекту потрібні приклади.
Можливо створити навчальні дані, якщо є занадто мало прикладів?
Так, це можливо. Для цього створюються штучні приклади. Це називають синтетичними наборами даних. Для створення синтетичних наборів даних використовується мовний модель. Для публічних даних можна використовувати хмарний сервіс, такий як ChatGPT, Command R+ тощо, якщо ви цього добре вважаєте. Часто краще, оскільки також без додаткових витрат можливе використання місцевого мовного моделю. Цей місцевий модуль також може бути підготовлений до того, щоб особливо добре створювати синтетичні навчальні дані.
Інший перевага місцевих моделей — можливість їх постійної роботи (24/7) для створення синтетичних даних. Що коштує кілька тисяч євро на місяць за допомогою ChatGPT, виконує місцевий КІ-модель за фіксований ціну. Фіксовані витрати складаються з експлуатаційних витрат вашої апаратури. Якщо ви орендуете обладнання, вони становлять декілька сотень євро на місяць. Якщо ви купите систему або вже маєте її, виникають лише витрати на електроенергію під час роботи.
Якщо трохи більше зусиль витратити на те, щоб відрізнитися від інших, які через леність користуються «ChatGPT», вже зараз видно значні стратегічні переваги та можливості, що виникають.
Як надійні є відповіді мовного моделю/чатбота/системи штучного інтелекту?
Як у людини: ніхто не знає, окрім тих, хто вже раніше знав відповідь.
Конкретно: мовні моделі часто надають правильні відповіді у звичайній роботі, але не досить часто, щоб можна було говорити про їхню надійність. même ChatGPT провалюється при більш конкретних запитах, які не мають нічого спільного із висотою Ейфелевої вежі.
Пошук знань у документах має досить високий рівень точності.
Відрядність чат-ботів суттєво поліпшити можна за допомогою розумних додаткових технологій. Власні витрати тут дуже невеликі.
Резюме: «Нема безкоштовного обіду». Для отримання високої надійності потрібно трохи зусиль. Високий рівень затрат на зусилля часто досить малий і економічно обґрунтований.
Як можна запобігти витоку даних до ChatGPT чи інших пропозицій КІ?
Ви можете запобігти відтоку даних до OpenAI або Microsoft лише тоді, коли ви не використовуєте ChatGPT.
Використовуючи ChatGPT, неможливо зупинити витік даних. Зазвичай на шкоду клієнтам встановлені налаштування захисту даних (Opt-Out замість Opt-in). Витік ваших даних можна зупинити лише за допомогою законодавства, тобто теоретично.
Які проблеми захисту даних можуть виникнути при використанні програми, подібної до HeyGen?
Хейген тут лише заміщення багатьох застосунків з штучним інтелектом цього типу, які можуть створювати синтетичні вміст.
Гейген – це онлайн-інструмент для створення відео. За допомогою нього власну голосову хвилю клонують, накладають на інше обличчя та синхронізують губи. Текстові дані виводяться як мова в клоновому голосі.
Якщо ваш маркетинговий працівник самостійно запропонує HeyGen і добровільно клонірує власну голос, тоді він, можливо, не має права відмовитися від цього, оскільки раніше не дав згоди, яку міг би відкликати. У іншому випадку слід мати на увазі, що для використання людського голосу може бути необхідна згода власника голосу.
Якістю є найкращий мовний модуль?
Виправно ні. ChatGPT надає дивовижні результати, але не спеціально навчався німецької мови. Крім того, він "старий", він заснований на архітектурі, яка вже тепер вважається застарілою. Саме велика кількість даних та величезна розмірність (кількість штучних нейронів і зв'язків) забезпечують конкурентоспроможну ефективність.
Кошти від ChatGPT не конкурентоспроможні, бо порівняно частково майже вдвічі вищі ніж у подібних мовних моделях інших провайдерів. Mistral з Франції має досить добре моделі в пропозиції, а також Cohere із США. Зовнішньоєвропейські провайдери краще підходять для застосувань, де не йде мова про критичні дані та немає підстав очікувати витік інформації.
Відкриті джерела тепер такі добре, що вони конкурують на рівних. Вони ще й стають краще і можуть бути самодіяльними.
Що потрібно звернути увагу при роботі з КІ-автоматом для прийому дзвінків?
Здесь мова йде про статичний повідомлення, створений з допомогою штучного інтелекту.
Синтетична голосова система повинна бути не дуже подібною до справжньої людини (зі визначною голосом). Для синтезування голосу матеріал повинен бути вільний від авторських прав.
Наприклад, тут жодних суттєвих питань немає. У особливості, ніяких особистих даних обробляються за допомогою КІ.
Які знання повинен мати програміст КІ?
Глибокі технічні знання та досвід програмістів дуже корисні. Кому ще ніколи не доводилося глибше працювати з розробкою AI, краще не починає створювати систему AI від нуля.
КИ є дуже складним питанням із численними швидкими розробками. Основоподібно повинні бути знання Python та Linux/Ubuntu (і т. д.). Якщо технічні основи штучного інтелекту відомі, то це не шкодить. Також знання в області інтерфейсної програмування є корисним. Чи той програміст, хто встановлює систему вперше і встановлює її з нуля, це зовсім інша справа. Часто це сенсивно, коли це робить якийсь інший.
Що стосується КІ, то середньотерміново вигідним є те, що технічний співробітник (частіше програміст/розробник) інтенсивно слідкує за швидкими розвитками на технічному ринку КІ та добре їх знає.
Краще, ніж інтелектуальна робота, також можна використовувати для інших завдань, крім обробки текстів?
Так. Тут мова йде про модальності. Модальності — це види даних, тобто текст, зображення, відео, аудіо, дані температурного сенсора тощо.
Для багатьох моделей існує відкритий доступ до КІ, зокрема вільно розповсюджуваних. Наприклад, з відео чи аудіозаписів можна виділити мову та перетворити її на текст. Це краще працює зі своїми власними системами КІ на основі відкритого джерела ніж наприклад із Microsoft Teams! Забуваючи про питання контролю даних.
Який комп'ютер рекомендують мені як робочий для роботи зі штучним інтелектом?
Ви маєте бажання програмувати чи хочете працювати лише як користувач з КІ?.
Для програмування я рекомендую використовувати систему Ubuntu. Також можливо використовувати Windows із WSL, що добре підходить для початку роботи, але не для професійної діяльності.
Як користувач ви можете взяти свій ПК (або Нотбук) за бажанням, який має або графічну карту з можливістю роботи зі штучним інтелектом із великою кількістю відеопам'яті (NVidia) або чип зі штучним інтелектом від Apple (наприклад, M3). Всі інші деталі майже нічого не важать. Бажано мати жорсткий диск з обсягом 1 ТБ і швидкою SSD-технологією. RAM бажано мати не менше 32 ГБ.
Заключення
Завжди є багато інших питань. Не вагайтеся і поставте свої питання. З радістю відповім на них.
Хоча ви потребуєте першу оцінку щодо можливості або витрат на ваш проект, з задоволенням нададуть реалістичну відповідь.
My name is Klaus Meffert. I have a doctorate in computer science and have been working professionally and practically with information technology for over 30 years. I also work as an expert in IT & data protection. I achieve my results by looking at technology and law. This seems absolutely essential to me when it comes to digital data protection. My company, IT Logic GmbH, also offers consulting and development of optimized and secure AI solutions.
