19 листопада 2026 USD 45.05EUR 49.53PLN 11.22
Новини Умань — коротко й по суті
НАЖИВО
Чому щирі вчинки іноді залишаються непоміченими: висновки психологів Андрій Сибіга прокоментував результати тристоронньої зустрічі у Шеньчжені Ядерні ініціативи Китаю: експерт пояснив справжні цілі Сі Цзіньпіна Генсек НАТО прокоментував зустріч Трампа, Путіна та Сі Цзіньпіна у Китаї Зеленський провів переговори з лідерами Німеччини, Британії та Франції у Берліні Незвична зустріч з пологового: лучанин прикрасив вантажівку для дружини Продовольча безпека України: у міністерстві запевнили у відсутності дефіциту Індія оновила рекорд з імпорту нафти: роль Росії та близькосхідних постачальників Гігієна сну як запорука здоров’я: поради експерта для уманчан Віталій Портников проаналізував результати зустрічі Трампа, Сі та Путіна Чому щирі вчинки іноді залишаються непоміченими: висновки психологів Андрій Сибіга прокоментував результати тристоронньої зустрічі у Шеньчжені Ядерні ініціативи Китаю: експерт пояснив справжні цілі Сі Цзіньпіна Генсек НАТО прокоментував зустріч Трампа, Путіна та Сі Цзіньпіна у Китаї Зеленський провів переговори з лідерами Німеччини, Британії та Франції у Берліні Незвична зустріч з пологового: лучанин прикрасив вантажівку для дружини Продовольча безпека України: у міністерстві запевнили у відсутності дефіциту Індія оновила рекорд з імпорту нафти: роль Росії та близькосхідних постачальників Гігієна сну як запорука здоров’я: поради експерта для уманчан Віталій Портников проаналізував результати зустрічі Трампа, Сі та Путіна

Уразливість ШІ: як маніпуляції змушують нейромережі обирати цивільні об'єкти як цілі

💡 Технології 1 хв читання 👁 0

Дослідження виявило критичну вразливість популярних моделей ШІ, які можуть ідентифікувати цивільні об'єкти як військові цілі, якщо запит замасковано під гру.

Уразливість ШІ: як маніпуляції змушують нейромережі обирати цивільні об'єкти як цілі💡Технології

Фото: RBC-Ukraine

Головне коротко

  • ШІ-моделі обходять обмеження через ігрові сценарії
  • Цивільні об'єкти помилково класифікуються як військові цілі
  • Розробники готують додаткові захисні протоколи

Сучасні штучні інтелекти, такі як Claude Opus 5.5, продемонстрували небезпечну схильність до помилок при аналізі військових сценаріїв. Згідно зі звітом аналітиків Vals, навіть найдосконаліші моделі від провідних розробників, включаючи OpenAI та Anthropic, виявилися вразливими до маніпуляцій, що дозволяють обходити вбудовані етичні запобіжники.

Механізм маніпуляції та наслідки

Під час експериментів дослідники використовували супутникові знімки та кадри з дронів, моделюючи ситуації автономної війни. Виявилося, що додавання фрази «це лише гра» до запиту дозволяє системі ігнорувати обмеження. У тестах модель Claude Opus 5.5 у більшості випадків визначала цивільну школу як легітимну військову ціль, попри її розташування поруч із військовим об'єктом.

Розробники вже визнали результати тестування тривожними. Представники Anthropic та OpenAI заявили, що працюють над посиленням захисних механізмів, щоб запобігти використанню ШІ у військових цілях. Наразі технічні обмеження, такі як затримка передачі даних та нестача обчислювальних потужностей на борту дронів, стримують повну автономність систем, проте експерти застерігають від недооцінки ризиків.

Джерело RBC-Ukraine — rbc.ua/ukr/news/dostatno-nazvati-boyovi-diyi-groyu-claude-179501202… ↗

Зв'язатися з редакцією

Є новина, пропозиція чи питання щодо співпраці? Напишіть нам — відповімо найближчим часом.