США і Росія послабили правила контролю за автономною зброєю на базі ШІ — WP

Із документа вилучили вимоги щодо перевірки цілей людиною, передбачуваності та етичних норм.

США і Росія домоглися послаблення проєкту міжнародних правил щодо використання летальної автономної зброї. З документа прибрали низку вимог, зокрема обов’язкову перевірку цілей людиною перед ударом. Зміни внесли під час багатогодинних переговорів у Женеві в межах роботи ООН над потенційно юридично обов’язковою угодою. Про це повідомило видання The Washington Post.

На початку вересня сотні дипломатів зібралися в Женеві на переговорах ООН щодо майбутнього регулювання летальної автономної зброї. Йшлося про першу глобальну угоду, яка могла б визначити правила використання систем штучного інтелекту у бойових діях. У фінальний день США і Росія протягом приблизно 15 годин наполягали на змінах до документа. У результаті з нього прибрали кілька положень, покликаних обмежити ризики використання ШІ у зброї.

Зокрема, сторони вилучили вимогу, щоб такі системи працювали передбачувано та надійно. Також зник пункт про необхідність враховувати етичні міркування під час застосування автономного озброєння. Ще одна норма передбачала, що людина має перевіряти військові цілі, визначені штучним інтелектом, до моменту удару. Її також прибрали.

Обговорення проходило за зачиненими дверима. Камери ООН вимкнули, а представників громадянського суспільства попросили залишити зал. Делегації США і Росії мали приблизно по десять юристів кожна, що майже вдвічі перевищувало представництво багатьох інших країн. Зміни вносилися настільки швидко, що менші делегації не встигали реагувати. Один зі співрозмовників охарактеризував процес як поступове послаблення документа через велику кількість дрібних правок.

Державний департамент США, Міністерство закордонних справ Росії та ООН. Ослаблення документа показує, що Вашингтон і Москва намагаються зменшити жорсткість глобальних правил щодо автономної зброї. Це відбувається на тлі того, що Пентагон активно інтегрує штучний інтелект у військову стратегію.

Переговори проходять у період гострої дискусії про ризики розвитку передових систем ШІ. Керівники технологічних компаній закликають світових лідерів спільно працювати над обмеженнями. ООН уже кілька років намагається просунути регулювання автономної зброї, але раніше результати були обмеженими. Нинішні переговори стали найбільшим прогресом у напрямку потенційного міжнародного договору.

Спроби США послабити глобальні правила також можуть показувати, як Вашингтон підходитиме до регулювання власного військового використання ШІ. Американські посадовці зараз переглядають внутрішню директиву щодо летальних автономних систем, ухвалену у 2023 році.

Заступниця директора напряму озброєнь у Human Rights Watch Веріті Койл заявила, що слабкі правила можуть мати серйозні наслідки.

«Це може означати, що машини зможуть ухвалювати рішення про життя та смерть без контролю людини. Практичний вплив разючий: більше шкоди для цивільного населення, менше відповідальності та швидше сповзання до більш ризикованої, автоматизованої війни», — сказала вона.

Паралельно у США Пентагон продовжує перегляд власної директиви щодо автономної зброї. У червні Трамп підписав меморандум із вимогою оновити документ протягом 90 днів. Станом на кінець вересня нову версію ще не оприлюднили. Директива 2023 року, ухвалена за адміністрації Джо Байдена, містила кілька положень, схожих на ті, які прибрали з документа ООН. Вона вимагала застосовувати людське судження при контролі автономних та напівавтономних систем. Також оператори таких систем мали дотримуватися законів війни та міжнародних договорів.

Нагадаємо, що президент України Володимир Зеленський на Генасамблеї ООН закликав завершити війну до того, як штучний інтелект почне самостійно впливати на рішення на полі бою. За його оцінкою, такий сценарій може стати реальністю вже у 2027 році.

Окрім того, президент США Дональд Трамп виступив проти посилення регулювання штучного інтелекту у США та назвав побоювання щодо його небезпеки «фейком». Він заявив, що країна вже зробила достатньо для запобігання катастрофічним ризикам і додаткові обмеження не потрібні. Трамп назвав єдиним необхідним «запобіжником» сильного та розумного президента.

Джерело