Сьогодні місце генетично модифікованої сої зайняли нейромережі, агрохолдингів — техногіганти, а замість страху перед «неприродною їжею» маємо страх перед «неприродним розумом». І риторика дивовижно знайома, як-от «ми граємося в Бога», «ми не знаємо наслідків», «корпорації захоплять світ», «людей замінять машини»...
Але між цими двома проривними технолгіями є одна фундаментальна різниця, оскільки ГМО змінювали поля, а ШІ перетворює сам ґрунт цивілізації. Генетично модифікована кукурудза не сперечалася з людиною, не писала тексти, не створювала картини, не підміняла реальність фальшивими голосами й не претендувала на частину людської інтелектуальної території. ШІ ж увірвався не в аграрний сектор, а в саму ідею людської винятковості, тому реакція така нервова. ШІ торкається речі майже сакральної, оскільки людина переконана, що мислення є її останньою фортецею. Й ось тепер ця фортеця вперше почула стукіт у ворота.
Завжди виникає питання: а хто формує відчуття страху щодо ШІ і чому воно виникає? Єдиного пояснення тут нема, оскілки страх є результатом кількох паралельних процесів. Медіа, звісно, роблять те, що їм притаманно завжди — продають страх у промислових масштабах. Щодня десь народжується новий цифровий пророк, який або обіцяє рай із роботами-помічниками, або віщує повстання машин до наступного четверга. Інтонація коливається між рекламою нового смартфона і Книгою Одкровення, й у цьому є щось майже комічне. Людство водночас боїться, що ШІ відбере роботу в художника, але просить його намалювати смішного кота у стилі бароко. Воно кричить про загрозу деградації мислення і тут же просить нейромережу написати шкільний реферат. Ми нагадуємо людину, яка лякається океану, стоячи по коліна у воді із надувним кругом.
Історія технологій підказує цікаву закономірність: майже кожен великий винахід спочатку здається або магією, або катастрофою. Паровоз називали машиною, що знищить людські легені через «надто високу швидкість». Електрику вважали небезпечною забавкою. Рок-музику — шляхом до морального краху. Інтернет мав або об’єднати людство, або остаточно його отруїти. І щоразу правда виявлялася набагато нуднішою й складнішою водночас. Технології не приходять як абсолютне зло чи абсолютний порятунок, радше, вони схожі на зміну клімату. Спочатку з’являється паніка, застереження, страх перед невідомим. Згодом настає поступове звикання, а через покоління люди вже дивуються, чому їхні батьки сприймали ці зміни як загрозу. Допустимо, що через двадцять років нинішні дискусії про ШІ здаватимуться такими ж архаїчними, як сьогодні здаються телевізійні дебати про «небезпечні помідори-мутанти», а можливо, й ні. Цілком імовірно, що цього разу людство справді стоїть не перед черговим інструментом, а перед новою формою сили, яку ще не навчилося контролювати. Але навіть тоді найцікавіше не те, яким стане ШІ, а якими будемо ми поруч із ним, бо кожна велика технологія зрештою виявляється не дзеркалом майбутнього, а дзеркалом людини.
Зупинити технологічний поступ неможливо, але можна не перетворювати кожну нову технологію або на релігію, або на забобони. І тут роль учених та медіа є критичною. Вченим насамперед бракує не розуму, а людської мови, оскільки науковець часто розмовляє із суспільством так, ніби читає інструкцію до ядерного реактора: сухо, зверхньо і мовою, зрозумілою лише іншим ученим. У цей вакуум одразу заходять політики, блогери, інфлюенсери та телевізійні пророки. І тоді складну реальність замінюють дві примітивні казки: «це врятує людство», «це нас знищить». Відтак перше завдання науки — навчитися пояснювати невизначеність без паніки. Не ховатися за фразами «ви не розумієте», а чесно говорити «ось реальні ризики, ось перебільшення або ось що ми вже знаємо, а ось чого ще не знаємо». Страх сам по собі природний, але найбільшої сили він набуває тоді, коли бракує розуміння й достовірної інформації.
Щодо медіа, то вони мають перестати поводитися як фабрики апокаліпсису. Сучасна інформаці-йна машина живе за дуже простою формулою: чим страшніший заголовок — тим більше кліків. Саме тому будь-яка нова технологія миттєво перетворюється або на «кінець цивілізації», або на «революцію, яка змінить усе». Гідна наукова журналістика повинна працювати не як сирена повітряної тривоги, а як перекладач між лабораторією та суспільством. Не романтизувати технологію, але й не малювати чергового Франкенштейна щоразу, коли з’являється новий алгоритм.
Ще одна важлива річ — суспільству необхідно бачити історичний масштаб подій. Майже кожне покоління щиро переконане, що саме його страх перед новими технологіями є унікальним і безпрецедентним. Однак історія показує, що людство реагує тривогою на нові винаходи вже сотні років, і цей цикл страху повторюється майже щоразу. Це не означає, що всі страхи безглузді і що справді деякі ризики можуть бути реальними. Жодна складна система, створена людиною, не може бути гарантовано безпомилковою. Саме тому сучасна цивілізація дедалі більше покладається не на ідеальність технологій, а на багаторівневі механізми контролю, перевірки та стримування ризиків.
ГМО часто сприймаються як щось штучне та потенційно небезпечне через саме втручання у генетичний код живих організмів. Для багатьох людей генетична модифікація асоціюється з порушенням «природного порядку». Однак у науковій практиці безпечність ГМО забезпечується не вірою у добрі наміри виробників, а довгою системою перевірок.
Першим рівнем захисту є лабораторні дослідження. Перед тим, як ГМО потрапляє у сільське господарство чи харчову промисловість, його аналізують на токсичність, алергенність та стабільність генетичних змін. Вчені порівнюють склад білків, поживних речовин та можливих побічних сполук із традиційними аналогами. Таким чином перевіряється не сама «ідея ГМО», а конкретний організм.
Другим рівнем стають контрольовані польові випробування. Рослини вирощують у спеціально ізольованих умовах, спостерігаючи за їхньою поведінкою у природному середовищі. Дослідники оцінюють вплив на комах, ґрунт, інші рослини та можливість перенесення модифікованих генів у дикі популяції. Інакше кажучи, суспільство створює штучні «буфери», які дозволяють виявити ризики до масового використання.
Третій рівень — це системи моніторингу вже після впровадження технології. Навіть після офіційного дозволу ГМО не перестають контролювати. Збирається статистика, аналізуються екологічні наслідки, а в деяких країнах застосовується обов’язкове маркування продукції. Це нагадує систему фармаконагляду у медицині: безпечність не вважається доведеною раз і назавжди, а постійно перевіряється у реальному світі.
Особливо показово, що сучасні біотехнології починають використовувати навіть своєрідні «генетичні запобіжники»: обмеження здатності до розмноження, контрольовану активацію певних генів або біологічні механізми стримування поширення модифікацій. Таким чином сама технологія дедалі більше включає елементи самоконтролю.
Якщо ГМО працюють із живими системами, то штучний інтелект взаємодіє з людським суспільством, мовою та інформацією. Саме тому проблема безпеки ШІ значно менш передбачувана. На відміну від ГМО, сучасні ШІ-системи вже демонструють реальні проблеми: «галюцинації», вигадані факти, упередження, маніпуляції, дезінформацію та нестабільну поведінку. Через це безпека ШІ також вибудовується як багаторівнева система стримувань.
Одним із головних механізмів стали контент-фільтри та системи модерації. Вони обмежують генерацію небезпечних інструкцій, незаконного контенту або відверто шкідливих порад. Але цього недостатньо, адже мовна модель не має справжнього розуміння істини, а лише статистично прогнозує найімовірніший текст. Тому сучасні ШІ активно навчають через людський зворотний зв’язок. Система «Навчання з підкріпленням на основі людського зворотного зв’язку» фактично виконує роль соціального виховання моделі, у якій люди оцінюють відповіді, а модель навчається уникати небажаних або небезпечних реакцій. У певному сенсі це схоже на те, як суспільство формує норми поведінки для людей.
Ще одним важливим інструментом стали так звані команди стрес-тестування безпеки, тобто групи спеціалістів, які навмисно намагаються «зламати» модель, спровокувати небезпечні відповіді або знайти слабкі місця. Це дуже нагадує стрес-тестування в авіації чи кібербезпеці, де систему перевіряють не тоді, коли все добре, а коли її навмисно доводять до межі.
У критично важливих сферах дедалі частіше застосовують принцип, за яким людина має залишатися учасником процесу ухвалення рішень. У медицині, судочинстві чи авіації ШІ може допомагати з аналізом і рекомендаціями, але остаточне рішення повинна ухвалювати людина. Саме вона зберігає контроль і відповідає за наслідки.
Отже, сучасні технології стають прийнятними для суспільства не через відсутність ризиків, а завдяки існуванню незалежної науки, відкритої критики, систем моніторингу, багаторівневих перевірок, людського контролю та прозорих механізмів відповідальності. Саме звідси постає важливий філософський висновок: головна небезпека часто полягає не в самій технології, а в соціальних механізмах, що формуються навколо неї, як-от непрозорості, монополізації знань, політичному чи корпоративному тиску та придушенні критики.
Микола ГОЛОВЕНКО,
академік НАМН України,
завідувач відділу біомедицини Фізико-хімічного інституту
ім. О.В. Богатського НАН України.
Від кукурудзи Франкенштейна до цифрового апокаліпсису
