Що таке галюцинації ШІ та чому не можна сліпо довіряти усьому, що каже ChatGPT?
Привіт, спільното! Ми працюємо в дуже динамічній сфері. І багато хто з арбітражників звик використовувати штучний інтелект не лише для роботи, а й просто щоб отримати якусь пораду стосовно зв’язки.
Враховуючи, що кожна ніша нестабільна, ШІ не може вивчати їх досконало в режимі реального часу. І коли умовний ChatGPT чогось не знає чи не розуміє, він у цьому не зізнається. Натомість може видати відповідь, яка буде наслідком його галюцинацій.
А перед початком нагадаємо, що ми вже розповідали про те, як використовувати ШІ для оптимізації РК. Радимо до ознайомлення!
Що мають на увазі під галюцинаціями ШІ?
Найголовніша проблема більшості сучасних генеративних нейромереж — це непередбачувані результати. Їх ніхто не контролює, через що інколи можуть траплятися сценарії, коли ваш “ШІ-помічник” може тільки нашкодити.
Напевно, ви вже бачили чимало мемів стосовно того, як це все виглядає. А-ля коли люди просять рецепт свинячих крил, і ШІ на повному серйозі розповідають, як їх приготувати. Мабуть, не варто нагадувати, що свині не літають. Про руснявих свинособак ми зараз не говоримо.
І ось такі, здавалося б, курйозні моменти можуть значно зіпсувати картину, коли мова йде про налаштування бізнес-процесів. Власне, ми ж саме цим і займаємось в арбітражі.
Загалом, можна виділити чотири основних типи ШІ галюцинацій, якщо мова йде про генеративні нейромережі:
- Фальсифікація. ШІ маніпулює фактами, чим вводить користувача в оману.
- Використання застарілої інфи. Це може бути суттєвою проблемою, якщо чат використовується при роботі з найактуальнішими темами. Наприклад, з новинами, IT та безпосередньо з арбітражем трафіку, який постійно змінюється.
- Ігнорування важливої інформації. Штучний інтелект може просто не згадати щось, що може бути вкрай важливим в контексті обговорення.
- Просто вигадки. Найбільш популярний, тому що мемний, варіант ШІ галюцинацій.
Тож саме так виглядає базовий концепт того, як нейромережа може вводити користувача в оману. Це відбувається не навмисно. Просто так налаштований скрипт: ШІ може нашвидкуруч видавати результати, до кінця не розібравшись у питанні. Це зумовлено необхідністю якомога швидше виконувати запит, через що якість відповідей значно страждає.
Чи тільки генеративні мережі можуть вдаватися до галюцинацій?
Насправді існує чимало прикладів схожої поведінки. Але вони вже не пов’язані з мемними ситуаціями.
Наприклад, сьогодні чимало процесів модерації передають під керування ШІ-асистентам. Це допомагає звільнити ресурси, адже штучний інтелект може відсортувати якісний контент від того, який потенційно порушує умови майданчика.
Проте насправді ж, і в цьому випадку ситуація може вийти з-під контролю. Так було зокрема з YouTube та його автоматичною перевіркою контенту, яка в період ковіда блокувала навіть ті відео, які жодним чином не суперечили правилам платформи.
І хоча здебільшого, блокування відео в YouTube не є чимось аномальним, адже це усталена практика, в той період було заблоковано вдвічі більше відео, ніж зазвичай. Й представники компанії самі визнали помилку, пославшись на помилки в роботі ШІ-алгоритму.
Тож враховуючи, що наразі більшість рекламних мереж також практикують ШІ-модерацію, буде зовсім не дивно, якщо і наші з вами РК почнуть блокувати без будь-якої на це причини. До цього треба принаймні бути готовими.
Як це все може зашкодити в арбітражі?
Отримують профіт лише ті, хто керується здоровим глуздом та має якісну та своєчасну інформацію. І жоден штучний інтелект цього забезпечити не в змозі. Принаймні зараз.
Інколи ChatGPT більше шкодить, ніж приносить користь. І це варто враховувати. Особливо, коли ви шукаєте чи перевіряєте важливу інформацію, від якої залежить уся зв’язка.
Також існує ризик “супутніх проблем”. На прикладі невдалої модерації з причин того, що ШІ-модератор інколи не дуже об’єктивний. Зокрема це створює можливості для конкурентів, які можуть видаляти ваш контент через скарги. Адже алгоритми працюють таким чином, що коли бот бачить велику кількість репортів, він може заблокувати контент навіть у тому випадку, якщо він нічого не порушував.
А як ви ставитеся до ШІ галюцинацій? Вважаєте це лише ґрунтом для мемів, чи все ж вбачаєте ризики для арбітражників? Діліться думками в нашому Telegram-ком’юніті, де ми говоримо про найважливіші теми зі світу аффілейт-маркетингу!
З повагою, Ваш Ґік!
Поширені питання
Це ситуації, коли ШІ генерує неправдиві або вигадані відповіді, не визнаючи, що чогось не знає, і може вводити користувача в оману.
Бо ШІ може видавати неточну або застарілу інформацію, інколи не розібравшись у питанні, що напряму впливає на якість рішень.
Вони можуть призводити до помилкових рішень, втрати прибутку або навіть блокування РК через некоректну модерацію чи неправильні дані.
