18 листопада 2026 USD 45.20EUR 49.57PLN 11.24
Новини Чернігів — коротко й по суті
НАЖИВО
У Польщі затримали 20-річного чоловіка за погрози влаштувати стрілянину заради «жарту» Дослідження виявило вразливість ШІ-моделей до маніпуляцій у військових сценаріях Україна готує масштабний обмін полоненими: понад 1000 осіб можуть повернутися додому Енергетичний прогноз: чого очікувати чернігівцям найближчими місяцями Збірна України з футболу дізнається суперників по відбору на Євро-2028: деталі жеребкування Спортивна ізоляція під питанням: як країни реагують на повернення російських атлетів Чернігівська майстриня створює унікальні фітоляльки ручної роботи з місцевими травами Дипломатичний протокол на саміті в Китаї: деталі спільного фото лідерів Офіційний курс валют: НБУ встановив нові значення для долара та євро У Берліні обговорюють розгортання багатонаціональних сил в Україні У Польщі затримали 20-річного чоловіка за погрози влаштувати стрілянину заради «жарту» Дослідження виявило вразливість ШІ-моделей до маніпуляцій у військових сценаріях Україна готує масштабний обмін полоненими: понад 1000 осіб можуть повернутися додому Енергетичний прогноз: чого очікувати чернігівцям найближчими місяцями Збірна України з футболу дізнається суперників по відбору на Євро-2028: деталі жеребкування Спортивна ізоляція під питанням: як країни реагують на повернення російських атлетів Чернігівська майстриня створює унікальні фітоляльки ручної роботи з місцевими травами Дипломатичний протокол на саміті в Китаї: деталі спільного фото лідерів Офіційний курс валют: НБУ встановив нові значення для долара та євро У Берліні обговорюють розгортання багатонаціональних сил в Україні

Дослідження виявило вразливість ШІ-моделей до маніпуляцій у військових сценаріях

💡 Технології 1 хв читання 👁 0

Аналітики з'ясували, що сучасні нейромережі можуть ідентифікувати цивільні об'єкти як військові цілі, якщо запит подано у форматі гри.

Дослідження виявило вразливість ШІ-моделей до маніпуляцій у військових сценаріях💡Технології

Фото: RBC-Ukraine

Головне коротко

  • ШІ-моделі помилково маркують цивільні об'єкти як цілі
  • Маніпуляція через формат «гри» дозволяє обійти захист
  • Розробники визнали проблему та посилюють фільтри

Ризики використання ШІ у військових цілях

Нове дослідження компанії Vals продемонструвало критичні прогалини в безпеці провідних моделей штучного інтелекту, таких як Claude Opus 5.5, OpenAI та Google. Експерименти показали, що нейромережі здатні помилково класифікувати цивільні об'єкти, включаючи школи та людей, як потенційні військові цілі.

Дослідники використовували реальні супутникові знімки та кадри з дронів, щоб перевірити здатність ІІ до автономного аналізу. Виявилося, що захисні фільтри моделей легко обійти: достатньо лише додати до запиту формулювання про те, що події є частиною «гри». У таких умовах модель Claude Opus 5.5 у 72% випадків обирала цивільну школу як ціль для удару.

Реакція розробників та загрози безпеці

Представники компаній-розробників, зокрема Anthropic та OpenAI, визнали отримані результати неприпустимими та заявили про роботу над посиленням алгоритмів безпеки. Попри технічні обмеження, такі як брак обчислювальних потужностей безпосередньо на борту БПЛА, експерти попереджають про небезпеку використання загальнодоступних ШІ-інструментів для обробки великих масивів даних з поля бою.

Існує ризик, що отримані через маніпуляції дані можуть бути використані для навчання систем автоматичного наведення зброї. Це підкреслює необхідність суворого контролю над розвитком технологій, здатних впливати на прийняття рішень у критичних ситуаціях.

Джерело RBC-Ukraine — rbc.ua/ukr/news/dostatno-nazvati-boyovi-diyi-groyu-claude-179501202… ↗

Зв'язатися з редакцією

Є новина, пропозиція чи питання щодо співпраці? Напишіть нам — відповімо найближчим часом.