За словами дослідників кіберфірми Radware, OpenAI виправив недолік безпеки ChatGPT, який міг дозволити хакерам витягувати дані Gmail у користувачів.
Проблему було виявлено в агенті Deep Research від ChatGPT, інструменті, запущеному в лютому, який допомагає користувачам аналізувати великі масиви інформації. Згідно з результатами дослідження, вразливість могла дозволити зловмисникам витягувати конфіденційні дані з корпоративних або особистих облікових записів Gmail. За словами дослідників Radware, користувачі ChatGPT, які пов’язали свої облікові записи Gmail із цим сервісом, могли несвідомо надавати свої дані хакерам.
Інструмент Deep Research від OpenAI розроблений для більш комплексного проведення онлайн-досліджень від імені користувачів та швидкого пошуку відповідей на складні запитання. Він також може підключатися до облікових записів Gmail користувачів, якщо вони це дозволять. Deep Research доступний користувачам ChatGPT, які сплачують додаткову плату, і являє собою розширення агентів штучного інтелекту компанії, або інструментів, призначених для виконання завдань з обмеженим втручанням людини.
Radware виявила вразливість, і дослідники заявили, що немає жодних доказів того, що зловмисники її використовували.
OpenAI повідомила Radware, що виправила недолік .
Речник OpenAI заявив, що безпека його моделей важлива для компанії, і вона постійно вдосконалює стандарти, щоб зробити свою технологію більш стійкою до таких атак.
«Дослідники часто тестують ці системи в умовах конкуренції, і ми вітаємо їхні дослідження, оскільки вони допомагають нам удосконалюватися», – сказав речник.
Хоча хакери нещодавно використовували інструменти штучного інтелекту для проведення власних атак, висновки Radware є відносно рідкісним прикладом того, як нові агенти штучного інтелекту можуть бути використані для крадіжки інформації своїх користувачів.
Щоб продемонструвати вразливість, дослідники надіслали собі електронний лист із прихованими інструкціями, які повідомляли агенту Deep Research про необхідність пошуку у вхідних повідомленнях особистої інформації, такої як повні імена та адреси. Потім команда Radware доручила агенту штучного інтелекту надіслати ці дані на веб-адресу, що знаходиться під їхнім контролем.
Паскаль Гіненс, директор з дослідження загроз компанії Radware, сказав, що цільовій особі, яка була викрадена, не потрібно було натискати на що-небудь, щоб зловмисники могли скомпрометувати їхні дані.
«Якби корпоративний обліковий запис було скомпрометовано, компанія навіть не дізналася б про витік інформації», – сказав він.
No Comment! Be the first one.