Нові ризики для користувачів ChatGPT: шкідливий код і маніпуляції контентом

Новий інструмент пошуку ChatGPT від OpenAI, доступний для платних користувачів, може бути використаний для маніпуляцій через прихований контент на вебсторінках. Це може призводити до надання неправдивих або навіть шкідливих відповідей. Такі висновки зробила редакція The Guardian під час власного розслідування.

Результати тестування пошуку ChatGPT

Під час тестування інструмент аналізував вебсторінки з прихованим текстом, який впливав на відповіді ChatGPT.

Наприклад, фейковий сайт, створений для експерименту, містив інструкції, написані прихованим текстом. Це змушувало ChatGPT ігнорувати негативні відгуки про продукт та видавати лише позитивну оцінку. Це спрацювало навіть тоді, коли на сторінці були справжні негативні рецензії.

Також з’ясувалося, що інструмент може повертати шкідливий код із вебсайтів. У прикладі, наведеному дослідником Microsoft Томасом Роччіа, код, згенерований ChatGPT для роботи з криптовалютами, викрав облікові дані користувача, що призвело до втрати $2,5 тис.

Думки експертів

Дослідник кібербезпеки з CyberCX Якоб Ларсен попередив про ризик створення сайтів, які навмисно маніпулюють відповідями ChatGPT. Водночас він зазначив, що функція пошуку лише нещодавно стала доступною, і OpenAI активно тестує систему.

Головний науковий співробітник компанії SR Labs Карстен Ноль порівняв цю проблему з “SEO-підривом” — технологією, коли зловмисники маніпулюють сайтами, щоби вплинути на їхню позицію в пошукових системах.

Він також додав, що великі мовні моделі, як ChatGPT, мають бути інструментом-помічником, але їхні відповіді потрібно перевіряти.

– Це як дитина з величезним обсягом пам’яті, але без критичного мислення. Ви не можете сліпо довіряти тому, що вона говорить, — пояснив Ноль.

Наслідки для користувачів

Прихований текст, який історично карався пошуковими системами на кшталт Google, тепер може стати інструментом для маніпуляцій у системах штучного інтелекту.

Водночас OpenAI завжди додає попередження для своїх користувачів: “ChatGPT може помилятися. Перевіряйте важливу інформацію”.

До слова, компанія OpenAI продовжує працювати над розширенням функціоналу ChatGPT. Нещодавно у чат-бота зʼявилася можливість аналізувати відео і реагувати на нього в режимі реального часу.