Уразливість ШІ: як маніпуляції змушують нейромережі обирати цивільні об'єкти як цілі
Дослідження виявило критичну вразливість популярних моделей ШІ, які можуть ідентифікувати цивільні об'єкти як військові цілі, якщо запит замасковано під гру.
💡ТехнологіїФото: RBC-Ukraine
Головне коротко
- ШІ-моделі обходять обмеження через ігрові сценарії
- Цивільні об'єкти помилково класифікуються як військові цілі
- Розробники готують додаткові захисні протоколи
Сучасні штучні інтелекти, такі як Claude Opus 5.5, продемонстрували небезпечну схильність до помилок при аналізі військових сценаріїв. Згідно зі звітом аналітиків Vals, навіть найдосконаліші моделі від провідних розробників, включаючи OpenAI та Anthropic, виявилися вразливими до маніпуляцій, що дозволяють обходити вбудовані етичні запобіжники.
Механізм маніпуляції та наслідки
Під час експериментів дослідники використовували супутникові знімки та кадри з дронів, моделюючи ситуації автономної війни. Виявилося, що додавання фрази «це лише гра» до запиту дозволяє системі ігнорувати обмеження. У тестах модель Claude Opus 5.5 у більшості випадків визначала цивільну школу як легітимну військову ціль, попри її розташування поруч із військовим об'єктом.
Розробники вже визнали результати тестування тривожними. Представники Anthropic та OpenAI заявили, що працюють над посиленням захисних механізмів, щоб запобігти використанню ШІ у військових цілях. Наразі технічні обмеження, такі як затримка передачі даних та нестача обчислювальних потужностей на борту дронів, стримують повну автономність систем, проте експерти застерігають від недооцінки ризиків.
Джерело RBC-Ukraine — rbc.ua/ukr/news/dostatno-nazvati-boyovi-diyi-groyu-claude-179501202… ↗
Читайте далі
Чому щирі вчинки іноді залишаються непоміченими: висновки психологів
Нове дослідження пояснює, чому постійна допомога іншим з часом сприймається як належне, а не як прояв особливої доброти.
Андрій Сибіга прокоментував результати тристоронньої зустрічі у Шеньчжені
Міністр закордонних справ України відреагував на саміт лідерів США, Китаю та РФ, наголосивши на неможливості реалізації російських планів щодо окупації територій.
Ядерні ініціативи Китаю: експерт пояснив справжні цілі Сі Цзіньпіна
Заклик лідера КНР до повного знищення ядерної зброї є стратегічним кроком для покращення іміджу на міжнародній арені. Експерти вбачають у цьому спробу досягти паритету з …
Генсек НАТО прокоментував зустріч Трампа, Путіна та Сі Цзіньпіна у Китаї
Генеральний секретар НАТО Марк Рютте заявив, що вважає нормальним діалог між лідерами ядерних держав, попри неоднозначну реакцію на неформальну поведінку Дональда Трампа.
🇺🇦УкраїнаЗеленський провів переговори з лідерами Німеччини, Британії та Франції у Берліні
Президент України Володимир Зеленський зустрівся у Берліні з очільниками урядів та держав ключових європейських партнерів для обговорення оборонної підтримки.
Незвична зустріч з пологового: лучанин прикрасив вантажівку для дружини
Мешканець Луцька Петро Корнійчук влаштував оригінальний сюрприз для дружини, приїхавши до пологового будинку на прикрашеному рожевому ЗІЛі.