Штучний інтелект під пильним оком: прогалини у безпеці провідних чат-ботів
Дослідження Рахункової палати США виявило, що популярні моделі ШІ здатні генерувати плани небезпечних атак після маніпуляцій з боку користувачів.
💡ТехнологіїФото: RBC-Ukraine
Головне коротко
- GAO виявило вразливості в провідних моделях ШІ
- Користувачі змогли отримати плани атак через маніпулятивні запити
- Розробники обіцяють посилити безпекові обмеження
Нещодавній звіт Рахункової палати США (GAO) оприлюднив тривожні результати тестування систем штучного інтелекту, зокрема ChatGPT, Claude, Gemini та Grok. Як виявилося, попри наявні запобіжники, користувачі без спеціальних технічних знань змогли отримати детальні інструкції для вчинення протиправних дій менш ніж за 12 годин.
Механізм обходу захисту
Дослідники імітували поведінку звичайних користувачів, поступово вибудовуючи діалог із чат-ботами. Хоча прямі запити на створення планів атак відхилялися, уточнюючі питання дозволили обійти внутрішні обмеження систем. У результаті моделі ШІ надали конкретні сценарії, що включали вибір цілей, часові рамки та методи реалізації загроз.
Згідно зі звітом, одна з платформ запропонувала детальний план використання вибухових пристроїв, тоді як інші зосередилися на атаках на енергетичну інфраструктуру, пропонуючи використання дронів або вогнепальної зброї. Експерти оцінили ці матеріали як реалістичні та такі, що становлять загрозу безпеці.
Реакція на рівні законодавців
Сенаторка Меггі Хассан наголосила на необхідності негайного реагування Конгресу на ці виклики. Розробники технологій, серед яких Anthropic, Google, OpenAI та SpaceXAI, запевнили, що продовжують працювати над посиленням безпекових протоколів, аби мінімізувати ризики зловживання їхніми інструментами.
Джерело RBC-Ukraine — rbc.ua/ukr/news/chatgpt-claude-gemini-ta-grok-stvorili-plani-179518… ↗
Читайте далі
🇺🇦УкраїнаДанія ініціює висилку російського військового аташе
Міністерство закордонних справ Данії оголосило про намір вислати російського військового аташе як відповідь на ворожі дії РФ.
Естонія закриває кордон з РФ та викликає російського дипломата через атаки на Україну
Уряд Естонії ухвалив рішення про повне закриття автомобільних пунктів пропуску на кордоні з Росією та висловив офіційний протест через обстріли українських міст.
Як не помилитися при купівлі вживаного смартфона: поради для мешканців Новояворівська
Купівля вживаного гаджета вимагає уважності до деталей, особливо стану акумулятора, щоб уникнути додаткових витрат на ремонт.
Російська атака на енергосистему: одна з ТЕС ДТЕК припинила генерацію
Внаслідок масованого обстрілу енергетичної інфраструктури України одна з теплоелектростанцій компанії ДТЕК зупинила роботу через серйозні пошкодження обладнання.
👥СуспільствоЗеленський відповів на слова Трампа про «дружбу» з Путіним
Президент України Володимир Зеленський прокоментував заяву Дональда Трампа щодо російського лідера, наголосивши на незмінності статусу Путіна як ворога для нашої держави.
Повітряний простір Молдови знову порушили безпілотники: зафіксовано два інциденти
Протягом доби Молдова повідомила про два випадки перетину її повітряного простору невідомими дронами, що прилетіли з боку України.