Розуміння галюцинацій штучного інтелекту: Причини та приклади штучних вигадок

Галюцинації ШІ – це хибні твердження ШІ, які ґрунтуються на правильній інформації. Результатом є правдоподібне твердження, яке могло б бути правильним, але не є таким. Пояснення галюцинацій можливе, якщо поглянути, наприклад, на те, як мовні моделі ШІ кодують інформацію та її значення.

Вступ

Напевно, всі чули про галюцинації в контексті штучного інтелекту.

Халцинуації такі цікаві тому, що це вигадані історії, які мають потенціал звучати плазибельно. Що здається правдоподібним, часто сприймається як істина чи правда. У саме цьому полягає небезпека халцинуацій.

Галюцинації – це помилкові заяви, які залежать від правильного попереднього знання. Помилкові заяви, що виникають з неправильної інформації або через невідповідність запитуваної інформації через погану формулювання питання, не є галюцинаціями.

Базою для галюцинацій є семантичні вектори. Що це таке, побачимо ближче.

Як розвиваються галюцинації

Смисловий вектор – це носій смислу. Що таке смисл? Смисл – це суб'єктивно визначене твердження. Можна також сказати, що кожен визначає власну істину.

Я створюю світ для себе,

широко, як мені подобається.

Пеппі Довгапанчоха

Істина – це (завжди?) щось суб'єктивне. Навіть фізичні теорії, такі як теорія відносності та квантова механіка, які, ймовірно, є одними з найкращих наших теорій, інтерпретуються суто суб'єктивно.

Людина знаходить значення речей та обставин завдяки культурній підготовці, освіті та власному баченню. Комп'ютер ("інтелект комп'ютера") шукає значення на основі навчальних даних, що в собі нічого іншого не є.

Значення знаходиться шляхом оптимізації математичної функції. Так і робить людина, тільки що оптимізація при людині також містить цілеспрямовані об'єктивні (!?) кон'юнктури.

На наступному зображенні показано спрощене представлення того, як значення речення "Собака біжить у парку" кодується в моделі ШІ.

Щойно згадане речення має багатогранне значення. Наприклад, воно говорить про живу істоту ("собака"), тематизує діяльність ("біг"), містить тональність (тут: нейтральна емоція) та описує місце ("парк"). До речі: термін "парк" може мати кілька значень. Тут йдеться про зелену зону в місті. Інше значення, яке тут не мається на увазі, але було б можливим, – це імператив "parken".

Зображення показує лише дві вимірності (2D) за простотою. Насправді моделі КІ працюють з більш ніж сотнею вимірностей, наприклад, 512. Така висока кількість вимірностей допомагає захоплювати та представляти різні аспекти значення заяви.

Твердження "Собака бігає в парку" є істинним. Як це може призвести до хибного твердження?

Багато систем штучного інтелекту генерують результати, представляючи значення вхідних даних у вигляді вектора (або векторів), і роблять те саме зі збереженими фоновими знаннями. Тепер ви можете обчислювати за допомогою векторів – будь-хто, хто розуміється на математиці або пам'ятає кращі часи, знає про це.

На наступному малюнку схематично показано додавання двох семантичних векторів.

Ви бачите два твердження, які обидва правдиві:

• Альберт Ейнштейн отримав Нобелівську премію з фізики -> Правдиве твердження
• Альберт Ейнштейн розробив теорію відносності -> Істинне твердження

Якщо тепер додати вектори цих двох тверджень, то утвориться вектор, показаний на малюнку червоним кольором, який представляє неправдиве твердження. Додавання двох стрілок, зеленої та синьої, проілюстровано у верхньому правому куті малюнка в мініатюрі. Пунктирні лінії також показують, як червона стрілка створюється із зеленої та синьої стрілок.

У моделі КІ виникає через Пошук подібності з червоним вектором результату, потім виходить ствердження, яке найкраще відповідає цьому вектору результату. Звідти випливає помилкове твердження: «Ейнштейну присуджено Нобелівську премію за теорію відносності».

Важко повірити, що один з найвидатніших геніїв в історії людства НЕ отримав Нобелівську премію за одну з найвидатніших теорій в історії людства. Це можна розцінювати як зухвалість або як ознаку глобальної дурості людства. Адже наступні досягнення базуються на теорії відносності Ейнштейна:

• GPS та навігаційні системи: Без урахування відносістських ефектів GPS-супутники вже після кількох годин були б не дуже точними на кілька кілометрів. Хронометри на супутниках працюють швидше через меншу гравітацію ніж на землі.
• Частичний прискорювач, як наприклад Large Hadron Collider у CERN, працює лише тому що відносністські ефекти при прискоренні частинок майже до швидкості світла беруться до уваги. Ці установки призвели до відкриття бозона Гігса та багатьох інших елементарних частинок.
• Медична візуалізація використовує теорію відносності в поситронній емісійній томографії (PET). При цьому використовуються антиматеріальні частинки, поведінку яких передбачав Ейнштейн.
• Астрономія та космологія були революційними змінені. Теорія дозволила передбачити і пізніше спостерігати чорні діри, гравітаційні хвилі та допомогла зрозуміти розширення Всесвіту.
• Квантова обчислювальна техніка користується відносистичними концепціями, зокрема при розробці високопрецизійних атомних годинників та квантових датчиків.
• Синхронізація комп'ютерних мереж та фінансових торгівельних систем сьогодні враховує відносистичні ефекти часу для точної вимірювання часу на великих відстанях.

У кращому випадку, члени Нобелівського журі були інтелектуально перевантажені в той час і не наважувалися дати своє благословення теорії, яка, можливо, була помилковою в їхніх очах.

Повернемося до галюцинацій:

Таким чином, вищезгадане неправдиве твердження з'явилося шляхом поєднання двох правильних тверджень. Це ще одна причина, чому воно звучить так правдоподібно і може відволікати від реальності (як ми її визначили).

Крім того, відповіді мовних моделей ШІ часто настільки привабливі та структуровані, що здаються професійними. Це посилює враження, що помилкове твердження (галюцинація) є правильним.

Вектори можна знову перетворити на текст (або інші дані, які називаються модальностями) за допомогою так званих вбудовок. Це математично визначені векторні представлення висловлень.

Причини галюцинацій

Існує багато можливих причин галюцинацій. Ось уривок з деяких можливих варіантів хибних тверджень.

Статистична інтерполяція замість фактичних знань

Мовні моделі зберігають інформацію не у вигляді окремих фактів, а у вигляді статистичних вагових коефіцієнтів між різними поняттями. Коли система відповідає на запит, вона комбінує ці ваги, щоб згенерувати найбільш вірогідну відповідь. При цьому модель може встановлювати зв'язки між поняттями, які не були явно присутні в навчальних даних.

Варто зазначити, що людське існування повністю ґрунтується на статистиці. Деяких людей це твердження обурює. Їм варто поглянути на квантову фізику (на загальному рівні).

Ці: Статистика є основою для інтелекту, а не причина відсутності інтелекту.

Неповні або суперечливі навчальні дані

Якість навчальних даних суттєво впливає на схильність до галюцинацій. Якщо модель навчається на даних, які містять неточності, суперечності або прогалини в знаннях, ці проблеми можуть виникати частіше в подальшому застосуванні. Крім того, різні джерела можуть надавати суперечливу інформацію на одну й ту саму тему.

З людьми це не відрізняється.

Впевненість без розуміння

ШІ-системи не усвідомлюють межі власних знань. Вони не можуть відрізнити певні знання від припущень і не виражають невизначеності в явному вигляді. Натомість вони генерують відповіді з позірною впевненістю, яка не відповідає дійсній достовірності інформації.

Роботи незабаром закриють ці кордони знань. Як і люди, вони досліджуватимуть навколишнє середовище і збиратимуть власний екологічний досвід.

Зони особливого ризику

Певні предметні області особливо схильні до галюцинацій. До них відносяться поточні події, що відбулися після дати навчання, вузькоспеціалізовані предметні області з обмеженим обсягом загальнодоступної інформації, а також області, де точність має вирішальне значення, наприклад, медичні або юридичні теми.

Що стосується права, то навряд чи будь-яка "нормальна" людина розуміє, що написано в спеціальних юридичних статтях, судових рішеннях або в деяких законах і підзаконних актах. До речі, це робиться навмисно: юристи намагаються не висовуватися в деяких сферах і тому використовують "мову влади". Ця інформація походить не від автора цієї статті, а від адвоката.

Результат

Галюцинації виникають через поєднання істинних знань. Вони оминають істину. Галюцинації можна зрозуміти, розглядаючи семантичні вектори як носії сенсу.

Але такі галюцинації також можуть відбуватися в аналоговий спосіб у нейронних мережах, що є основою багатьох сучасних моделей штучного інтелекту. Зрештою, нейронна мережа може представляти вектор, оскільки вона настільки пластична, що може нести і представляти будь-яку інформацію.

Що стосується Закону про штучний інтелект, то краще намагатися мінімізувати ризик виникнення галюцинацій. А ще краще уникати галюцинацій.

Більше про галюцинації можна прочитати в найближчому виданому Соборному збірнику "Аналіз ризиків-КІ", який видає професор Вандервітц. Цей матеріал частково і значно скорочений за змістом базується на статті, яка призначена для публікації в збірнику.

hallucinations можна уникнути, якщо людина трохи зусилля зробить. З допомогою ChatGPT це не вийде, але з оптимізованою КІ для підприємств та інших організацій – так. У одному клієнтському проекті ми змогли створити надійний чатбот для складного галузі знань. Чатбот відповідав майже завжди правильно. Він також знав із того, коли йому слід відповісти. У декількох випадках, коли виникли сумніви, людина перед екраном отримувала інформацію про те, що відповідь треба перевірити. У всіх випадках вказувалися джерела відповіді. Коли відповіді вважалися правильними, чатбот видав їм спеціальне посвідчення ("ми стоїмо за цю відповідь").