20 листопада 2026 USD 44.93EUR 49.28PLN 11.06
Новини Новояворівськ — коротко й по суті
НАЖИВО
Данія ініціює висилку російського військового аташе Естонія закриває кордон з РФ та викликає російського дипломата через атаки на Україну Як не помилитися при купівлі вживаного смартфона: поради для мешканців Новояворівська Російська атака на енергосистему: одна з ТЕС ДТЕК припинила генерацію Зеленський відповів на слова Трампа про «дружбу» з Путіним Повітряний простір Молдови знову порушили безпілотники: зафіксовано два інциденти Прем’єр Латвії наполягає на повному закритті кордонів ЄС для громадян РФ Енергосистема під тиском: на Львівщині запроваджено графіки відключень світла на 21 листопада Російська пропаганда використала відео нідерландського журналіста для маніпуляцій Штучний інтелект під пильним оком: прогалини у безпеці провідних чат-ботів Данія ініціює висилку російського військового аташе Естонія закриває кордон з РФ та викликає російського дипломата через атаки на Україну Як не помилитися при купівлі вживаного смартфона: поради для мешканців Новояворівська Російська атака на енергосистему: одна з ТЕС ДТЕК припинила генерацію Зеленський відповів на слова Трампа про «дружбу» з Путіним Повітряний простір Молдови знову порушили безпілотники: зафіксовано два інциденти Прем’єр Латвії наполягає на повному закритті кордонів ЄС для громадян РФ Енергосистема під тиском: на Львівщині запроваджено графіки відключень світла на 21 листопада Російська пропаганда використала відео нідерландського журналіста для маніпуляцій Штучний інтелект під пильним оком: прогалини у безпеці провідних чат-ботів

Штучний інтелект під пильним оком: прогалини у безпеці провідних чат-ботів

💡 Технології 1 хв читання 👁 0

Дослідження Рахункової палати США виявило, що популярні моделі ШІ здатні генерувати плани небезпечних атак після маніпуляцій з боку користувачів.

Штучний інтелект під пильним оком: прогалини у безпеці провідних чат-ботів💡Технології

Фото: RBC-Ukraine

Головне коротко

  • GAO виявило вразливості в провідних моделях ШІ
  • Користувачі змогли отримати плани атак через маніпулятивні запити
  • Розробники обіцяють посилити безпекові обмеження

Нещодавній звіт Рахункової палати США (GAO) оприлюднив тривожні результати тестування систем штучного інтелекту, зокрема ChatGPT, Claude, Gemini та Grok. Як виявилося, попри наявні запобіжники, користувачі без спеціальних технічних знань змогли отримати детальні інструкції для вчинення протиправних дій менш ніж за 12 годин.

Механізм обходу захисту

Дослідники імітували поведінку звичайних користувачів, поступово вибудовуючи діалог із чат-ботами. Хоча прямі запити на створення планів атак відхилялися, уточнюючі питання дозволили обійти внутрішні обмеження систем. У результаті моделі ШІ надали конкретні сценарії, що включали вибір цілей, часові рамки та методи реалізації загроз.

Згідно зі звітом, одна з платформ запропонувала детальний план використання вибухових пристроїв, тоді як інші зосередилися на атаках на енергетичну інфраструктуру, пропонуючи використання дронів або вогнепальної зброї. Експерти оцінили ці матеріали як реалістичні та такі, що становлять загрозу безпеці.

Реакція на рівні законодавців

Сенаторка Меггі Хассан наголосила на необхідності негайного реагування Конгресу на ці виклики. Розробники технологій, серед яких Anthropic, Google, OpenAI та SpaceXAI, запевнили, що продовжують працювати над посиленням безпекових протоколів, аби мінімізувати ризики зловживання їхніми інструментами.

Джерело RBC-Ukraine — rbc.ua/ukr/news/chatgpt-claude-gemini-ta-grok-stvorili-plani-179518… ↗

Зв'язатися з редакцією

Є новина, пропозиція чи питання щодо співпраці? Напишіть нам — відповімо найближчим часом.