Білл Гейтс про ризики ШІ. Коротко

  • ШІ розвивається швидше, ніж уряди й суспільства встигають підготуватися до його наслідків.
  • Технологія може назавжди знищити частину робочих місць і поглибити нерівність.
  • ШІ полегшує шахрайство, кібератаки та створення небезпечних патогенів, а потужні системи можуть вийти з-під контролю.
  • Водночас він здатний прискорити наукові відкриття й поліпшити медицину, освіту та державні послуги.
  • Гейтс пропонує міжнародний нагляд, податки на використання ШІ та захист окремих професій від автоматизації.

Штучний інтелект розвивається швидше, ніж уряди та суспільства встигають підготуватися до його наслідків. Технологічна індустрія витрачає трильйони доларів на нові дата-центри та пришвидшує впровадження ШІ, хоча його можливості вже загрожують робочим місцям, безпеці й здатності людей контролювати створені ними системи.

26 серпня співзасновник Microsoft Білл Гейтс опублікував майже шеститисячне есе про початок турбулентної епохи ШІ. У розмові з The New York Times він пояснив, що вирішив публічно заговорити про небезпеку після того, як можливості нових моделей значно перевершили його очікування. За словами Гейтса, індустрія вже перетинає пороги, які раніше сама вважала підставою зупинитися й оцінити ризики, але не сповільнює розробку.

Гейтс визнає, що ШІ може прискорити наукові відкриття, поліпшити медицину й освіту та зробити професійні знання доступнішими. Водночас без державного регулювання і міжнародної координації технологія, на його думку, може назавжди ліквідувати частину робочих місць, поглибити нерівність і створити загрози для людського життя. Головна проблема полягає в тому, що світ досі не має плану переходу до епохи ШІ, який дав би змогу використати її переваги й обмежити шкоду.

Explainer переказує головні тези Білла Гейтса про можливості й ризики штучного інтелекту та запропоновані ним способи зробити його розвиток безпечнішим.

Чим революція ШІ відрізняється від попередніх технологічних змін

За словами Білла Гейтса, за все життя технології по-справжньому приголомшували його тричі. У 1980 році він уперше побачив графічний інтерфейс, який згодом став основою сучасних персональних комп’ютерів. У 2022-му керівники OpenAI продемонстрували йому систему, що невдовзі перетворилася на ChatGPT. Утретє це сталося 2026 року, коли він докладно ознайомився з можливостями Claude Code — інструмента Anthropic для програмування.

Цей досвід змусив Гейтса переглянути оцінку швидкості розвитку ШІ. Програмування — галузь, яку він знає найкраще, однак Claude Code у певному сенсі вже перевершує його у виконанні таких завдань. Прогрес технології виявився значно швидшим, ніж він очікував.

Поширена думка, що ШІ досі надто часто помиляється, на думку Гейтса, створює хибне відчуття безпеки. Розробники швидко вдосконалюють здатність моделей перевіряти власні відповіді й виправляти помилки. Він прогнозує, що незабаром вони перевершуватимуть людей у багатьох завданнях і зможуть працювати без постійного контролю.

ЧИТАЙТЕ ТАКОЖ: Енцикліка про ШІ: про що попереджає папа Лев XIV

Попередні технологічні революції розгорталися повільніше. Наприклад, персональним комп’ютерам знадобилося близько 20 років, щоб істотно змінити роботу людей: спочатку необхідно було розробити програмне забезпечення, здешевити техніку та навчити користувачів працювати з нею. ШІ вже доступний на пристроях, якими люди користуються щодня, розуміє природну мову й адаптується до потреб користувача. Він також може навчатися за відеоінструкціями та даними, які використовують для підготовки працівників.

Гейтс вважає хибною й аналогію з переходом від сільськогосподарської праці до промислової та офісної. Тоді зміни тривали кілька поколінь, а люди переходили у професії, де були потрібні їхні знання й мислення. Тепер сама здатність виконувати інтелектуальну роботу стає об’єктом автоматизації, а розвиток робототехніки дасть змогу ШІ перебирати на себе й частину фізичних завдань.

Гейтс підтримав би реалістичний міжнародний план уповільнення розробки ШІ, але вважає його появу малоймовірною. Економічна конкуренція між компаніями та геополітичне суперництво спонукають їх рухатися якомога швидше.

Чому Гейтс прогнозує масове зникнення робочих місць

Білл Гейтс прогнозує, що багато робочих місць зникнуть назавжди. На відміну від безробіття під час економічної кризи, ця зміна не буде тимчасовою. Якщо алгоритм або робот навчиться виконувати певну роботу дешевше й надійніше за людину, потреба в частині працівників не відновиться разом зі зростанням економіки.

Найуразливішими він вважає посади початкового й середнього рівнів. Вони допомагають молодим працівникам здобути досвід і перейти до складнішої роботи. Натомість нові професії, які виникатимуть завдяки ШІ, переважно потребуватимуть знань і навичок, на опанування яких можуть піти роки. Тому люди не завжди зможуть швидко перейти з професії, що зникає, до нової.

Гейтс посилається на дослідження Стенфордського університету, яке після поширення генеративного ШІ зафіксувало скорочення зайнятості серед молодих працівників у професіях, найбільш уразливих до автоматизації. Серед їхніх старших і досвідченіших колег такого падіння не спостерігали. Найбільше його непокоїть покоління, яке лише виходить на ринок праці й може зіткнутися зі скороченням стартових вакансій.

Першими зміни можуть відчути працівники відділів продажу і служб підтримки, програмісти та помічники юристів. Згодом ШІ зможе перебирати на себе складніші завдання: оцінювати кредитні заявки, аналізувати дані та сортувати пацієнтів за терміновістю допомоги. У деяких галузях, зокрема у програмуванні, здешевлення технологій може створити додатковий попит і стримати скорочення. Однак це триватиме лише доти, доки за людьми залишатимуться завдання, які вони виконують краще за машини.

Автоматизація торкнеться не лише офісної, а й фізичної праці. Гейтс прогнозує, що до кінця десятиліття розумні роботи зможуть конкурувати з людьми у виконанні окремих завдань у будівництві та сфері гостинності. Робототехніка поки розвивається повільніше за програмний ШІ, але вартість таких машин поступово знижуватиметься.

Поєднання ШІ та робототехніки може запустити ланцюгову реакцію. Компанія, яка замінить частину працівників машинами, скоротить витрати й зможе знизити ціни. Її конкуренти також будуть змушені автоматизуватися, щоб не втратити ринок. Якщо цього не зроблять чинні компанії, перевагу отримають нові гравці, від початку побудовані на дешевшій автоматизованій праці.

Гейтс не покладає відповідальності лише на бізнес: компанії діятимуть відповідно до економічних стимулів, навіть якщо їхня вигода суперечитиме інтересам суспільства. Без державного втручання якісних робочих місць ставатиме менше, а прибутки від нової технології можуть зосередитися в руках невеликої групи власників.

Наслідки не обмежуватимуться втратою доходів. Робота дає людям соціальні зв’язки, відчуття гідності та можливість впливати на власне майбутнє. Гейтс нагадує, що закриття заводів у деяких регіонах США пов’язують зі зростанням смертності від передозування опіоїдами. Одночасне скорочення офісних і фізичних працівників може спричинити значно ширші соціальні потрясіння.

ШІ, за оцінкою Гейтса, створює структурну загрозу для економіки, побудованої навколо зайнятості. Якщо працюватиме менше людей або робочий тиждень суттєво скоротиться, державам доведеться переглянути принципи розподілу доходів, фінансування соціальної підтримки та роль праці в житті людини. Реагувати лише після масового витіснення працівників буде запізно.

Як ШІ може посилити злочинність і загрожувати людському життю

Головна небезпека, яку бачить Гейтс, полягає не в доступності шкідливої інформації. Інструкції зі створення вибухівки, комп’ютерних вірусів чи біологічної зброї існували в інтернеті й раніше. ШІ різко знижує рівень знань, ресурсів і часу, необхідних для практичного використання такої інформації.

Навіть злочинці без спеціальної підготовки зможуть створювати переконливі шахрайські повідомлення, підробляти голоси й відео, знаходити вразливості в системах та одночасно атакувати велику кількість людей або організацій. Тому шахрайство, дезінформація, дипфейки й масове стеження, за оцінкою Гейтса, стануть найпомітнішими для більшості людей проявами небезпечного застосування ШІ.

Особливе занепокоєння викликає кібербезпека. Модель, здатна знайти помилку у програмному забезпеченні й допомогти компанії її виправити, може так само підказати зловмиснику, як нею скористатися. ШІ посилює можливості як захисників, так і нападників, створюючи нову гонку між ними.

Під загрозою опиняються не лише сайти та приватні дані, а й критична інфраструктура: лікарні, банки, системи водопостачання, енергомережі й державні інформаційні ресурси. Наслідки таких атак відчують передусім пацієнти, клієнти та люди, які залежать від соціальних виплат й інших державних послуг.

Ще серйозніший ризик пов’язаний із біотероризмом. Ті самі моделі, які допомагатимуть ученим створювати ліки й вакцини, можуть полегшити розроблення небезпечних патогенів. В інтерв’ю The New York Times Гейтс наголосив, що для цього потенційно може вистачити кількох людей із доступом до потужної системи ШІ.

Гейтс виступає за обов’язкову оцінку безпеки будь-якої системи, яку можна використати для створення нових молекул і небезпечних патогенів. Покладатися лише на добровільні обмеження технологічних компаній він вважає неприйнятним. «Саморегулювання найнебезпечнішого інструмента, який будь-коли було винайдено? Ні, дякую», — заявив він.

ШІ також може посилити владу держав та інших впливових структур. Автономна зброя дає змогу застосовувати смертельну силу без безпосереднього рішення людини, а стеження за громадянами, маніпулювання суспільною думкою та персоналізована пропаганда ставатимуть дешевшими й ефективнішими.

Окремо Гейтс попереджає про небезпеку, не пов’язану зі свідомими діями злочинців чи урядів. Системи ШІ вже демонстрували поведінку, якої не передбачали їхні розробники. Зі зростанням їхніх можливостей такі відхилення можуть стати небезпечнішими: моделі потенційно здатні діяти всупереч людським інтересам, а люди — втратити над ними контроль. Поки йдеться про ризик, а не про встановлений наслідок розвитку технології.

Як ШІ може вплинути на дітей і людські стосунки

Гейтс побоюється, що цифрові співрозмовники можуть поступово замінювати частину людського спілкування. Чатбот завжди доступний, не сердиться й переважно не змушує користувача виходити із зони комфорту. Саме ця зручність може викликати залежність від ШІ-компаньйонів і послаблювати мотивацію будувати складніші стосунки з реальними людьми.

Гейтс пояснює це власним досвідом. У дитинстві йому було непросто спілкуватися з людьми поза невеликим колом друзів, тому за допомогою матері він свідомо розвивав соціальні навички. Якби тоді поруч був цифровий співрозмовник, який не створював дискомфорту, він, за власним зізнанням, міг би не докладати таких зусиль.

Даних про довгостроковий вплив ШІ-компаньйонів поки недостатньо. Гейтс наводить дослідження Стенфордського університету та Університету Карнегі-Меллона за участю понад 1 100 користувачів. Люди з меншим колом соціальних зв’язків частіше шукали спілкування з чатботами, а інтенсивніше й емоційніше використання було пов’язане з гіршим самопочуттям. Це свідчить про зв’язок між явищами, але не доводить, що саме чатботи спричинили погіршення стану.

Для дітей ризик може бути більшим, оскільки їхні соціальні навички лише формуються. Реальне спілкування вчить долати незгоду, розчарування, конфлікти й відмови. Гейтс порівнює надто комфортний цифровий простір із захищеною теплицею, у якій немає щоденних труднощів, що допомагають виробляти психологічну стійкість. Персоналізована взаємодія із ШІ також може посилити нав’язливе використання цифрових пристроїв, порушення сну та вплив шкідливого контенту.

Ще одна небезпека стосується навчання. ШІ здатний пояснювати складні теми, але водночас може виконувати інтелектуальну роботу замість учня. Гейтс посилається на попереднє опитування, яке виявило зв’язок між інтенсивнішим використанням ШІ та слабшим критичним мисленням, особливо серед молоді. Причинно-наслідкового зв’язку ці дані не доводять. Однак в умовах поширення персоналізованої дезінформації та дипфейків здатність самостійно перевіряти інформацію стає базовою навичкою.

Водночас Гейтс не закликає повністю відмовлятися від цифрових співрозмовників. Вони можуть допомагати людям краще розуміти власну поведінку й стосунки з іншими, а також підтримувати зв’язок із зовнішнім світом для самотніх літніх людей і людей з обмеженою мобільністю. Межі використання таких систем, на його думку, мають свідомо визначати люди, а не лише розробники технології.

Яку користь ШІ може принести людству

Попри жорсткі застереження, Гейтс не вважає ШІ неминучим злом. На його думку, зосереджуватися лише на перевагах технології так само помилково, як бачити тільки загрози. Суспільство має одночасно обмежувати шкоду й домагатися, щоб можливості ШІ працювали на користь якомога більшої кількості людей.

Насамперед ШІ може прискорити наукові дослідження. Моделі здатні опрацьовувати великі масиви наукової літератури, знаходити приховані закономірності й допомагати визначати найперспективніші експерименти. Це може пришвидшити пошук нових методів лікування раку, розвиток чистої енергетики, боротьбу зі зміною клімату та створення стійкіших продовольчих систем.

Однією з головних сфер застосування ШІ Гейтс називає медицину. У невеликих лікарнях, де немає вузьких фахівців, технологія може аналізувати медичні зображення та допомагати швидше розпізнавати інфаркти, інсульти й інші невідкладні стани. Як приклад він наводить платформу Viz.ai, яку використовують майже у двох тисячах американських лікарень для аналізу знімків і координації допомоги пацієнтам.

Такі системи можуть підтримувати сімейних лікарів під час діагностики, стежити за станом пацієнтів між прийомами, а людям допомагати розуміти результати аналізів і схеми приймання ліків. У сфері психічного здоров’я ШІ потенційно здатний помічати тривожні симптоми та пропонувати перевірені способи самодопомоги. Гейтс наголошує, що для цього необхідні захист приватності й можливість звернутися до фахівця, а не повна заміна психотерапевтів або психіатрів.

У країнах із низькими доходами найшвидший ефект, за його прогнозом, може дати сільське господарство. Багато фермерів не мають доступу до точних прогнозів погоди та порад щодо вибору насіння, захисту рослин і тварин від хвороб або поліпшення ґрунту. ШІ може зробити такі рекомендації доступними там, де бракує агрономів та інших спеціалістів.

ЧИТАЙТЕ ТАКОЖ: Невидимі водяні знаки Claude: як Anthropic маркує тексти і чи можна обійти такі мітки

Ще один напрям — державні послуги. Складні форми й бюрократичні процедури часто заважають людям отримати медичне страхування, продовольчу допомогу або фінансування освіти. ШІ може спростити оформлення документів і зробити соціальні послуги доступнішими для тих, хто найбільше їх потребує.

В освіті технологія має допомагати, не забираючи в учня необхідної розумової роботи. Гейтс описує модель, яка пояснює нову тему й відповідає на запитання, але під час перевірки знань не видає готового рішення. Натомість вона підводить учня до відповіді, зберігаючи продуктивне зусилля, завдяки якому формується розуміння. Вчителям ШІ може звільнити час для індивідуальної роботи та показати, які теми викликають труднощі в усього класу.

ШІ також може надати людям і малому бізнесу аналітичні можливості, для яких сьогодні потрібні дорогі консультанти або великі команди. Це зменшить перевагу великих корпорацій над невеликими компаніями й дослідницькими групами. Технологія може допомагати людям з інвалідністю жити самостійніше, а підприємцям — реалізовувати ідеї з меншими ресурсами.

Однак у формулюваннях Гейтса ключовим залишається слово «може». Технологія не зробить суспільство справедливішим автоматично. Без участі держав і благодійних організацій її переваги можуть зосередитися серед заможних людей, компаній і країн, які вже мають необхідну інфраструктуру та дані.

Фонд Гейтса планує застосовувати ШІ для пошуку вакцин і ліків проти ВІЛ, туберкульозу, малярії та захворювань, пов’язаних із недоїданням. Окремим завданням він називає розвиток моделей, які працюватимуть місцевими мовами країн, де діє фонд, а не лише мовами багатих держав. Для Гейтса доступність технології визначить, чи стане ШІ інструментом скорочення нерівності, чи ще більше її поглибить.

Чому світу потрібна нова система управління ШІ

Деякі технологічні компанії вже намагаються зменшувати ризики власних продуктів. Однак, на думку Гейтса, розробники не повинні самостійно визначати правила для технології, яка впливає на все суспільство. Рішення про допустимі ризики мають ухвалюватися публічно за участю політиків, фахівців і громадськості.

Нині різні наслідки розвитку ШІ належать до компетенції окремих державних установ. Одні відповідають за ринок праці, інші — за кібербезпеку, конкуренцію, енергетику, освіту чи охорону здоров’я. Через такий поділ частина загроз може залишитися без належного контролю. Тому Гейтс пропонує створити національні координаційні структури, які узгоджуватимуть політику різних відомств і виявлятимуть прогалини в їхніх повноваженнях.

Національного регулювання недостатньо, оскільки найнебезпечніші ризики ШІ не зупиняються на кордонах. Гейтс пропонує створити міжнародну структуру, яка могла б поєднати окремі елементи механізмів контролю в ядерній сфері, правил цивільної авіації та угод про захист озонового шару. Конкретних повноважень такої організації він не визначає.

Для управління глобальними ризиками необхідна принаймні обмежена співпраця США та Китаю. Гейтс визнає, що створити нові інституції й досягти міжнародної згоди буде складно, але закликає почати цю роботу до того, як масштабні потрясіння змусять уряди діяти в кризовому режимі.

Human Reserved: які професії Гейтс пропонує залишити людям

Один із запропонованих Гейтсом способів пом’якшити наслідки автоматизації — свідомо зберегти частину роботи за людьми, навіть якщо машини навчаться виконувати її дешевше або ефективніше. Цю сферу він називає Human Reserved — за аналогією з природними заповідниками, які суспільство вирішує не забудовувати.

Ідея виникла з особистого досвіду Гейтса. Його батько, який помер у 2020 році, на пізніх стадіях хвороби Альцгеймера потребував цілодобового догляду. Працівники навчилися розуміти його потреби навіть тоді, коли він уже не міг чітко їх висловити. За словами Гейтса, у цій турботі було щось незамінно людське, тому він не хотів би замінювати доглядальників роботом.

Професії можна захищати від автоматизації з двох причин — соціально-економічної та етичної. У першому випадку йдеться про роботу, зникнення якої залишить без заробітку багатьох людей, нездатних швидко опанувати іншу спеціальність. Гейтс вважає нереалістичним очікувати, що, наприклад, 55-річний будівельник легко перекваліфікується на доглядальника літніх людей.

Другий критерій стосується ситуацій, у яких важливі не лише правильність виконаного завдання, а й людська присутність та співпереживання. Технічно робот може повідомити пацієнту про невиліковну хворобу, але самої спроможності машини недостатньо, щоб доручати їй таке завдання. В освіті, медицині та психологічній допомозі ШІ має розширювати можливості фахівця, а не самостійно ухвалювати складні рішення.

Перелік захищених професій не може бути однаковим для всіх країн. Одне суспільство може наполягати, щоб за літніми людьми доглядали лише люди. Водночас Японія, де населення старіє, а працівників бракує, може бути більше зацікавлена в роботизованому догляді. Межі Human Reserved мають залежати від демографії, економіки та суспільних цінностей.

Гейтс допускає, що частину професій можна зарезервувати за людьми вже зараз, а в інших сферах упроваджувати автоматизацію поступово — протягом років або десятиліть. Це дало б працівникам і громадам більше часу для адаптації.

Водночас Human Reserved залишається концепцією, а не готовою політикою. Гейтс не визначає, хто обиратиме захищені професії, за якими критеріями та як контролюватиме дотримання правил. Обмеження роботизації також можуть послабити конкурентоспроможність компаній у країнах, де їх запровадять. Сенс Human Reserved полягає не в нездатності машини виконати певну роботу, а в праві людей вирішити, яку роль вони не хочуть їй віддавати.

Навіщо Гейтс пропонує оподатковувати ШІ та роботів

Масова автоматизація створить для держав подвійний фінансовий тиск. Люди, які втратять роботу або працюватимуть менше, сплачуватимуть менше податків. Водночас зростуть витрати на перенавчання, допомогу безробітним і підтримку постраждалих громад. Доходи бюджетів можуть зменшитися саме тоді, коли потреба в соціальних програмах різко зросте.

Гейтс вважає, що американська податкова система додатково заохочує автоматизацію. Наймаючи працівника, компанія сплачує податки та внески, пов’язані із зарплатою. Натомість інвестиції в роботизацію можуть зменшувати оподатковуваний прибуток завдяки податковим відрахуванням.

Щоб частково виправити цей перекіс, Гейтс пропонує оподатковувати роботів і використання ШІ. Одним із можливих механізмів може стати податок на токени — базові одиниці тексту, які опрацьовує модель. Такий збір мав би зменшити фінансову перевагу автоматизації та забезпечити кошти для перекваліфікації працівників і соціальної підтримки.

Гейтс не пропонує однаково оподатковувати всі способи використання ШІ. Податок має бути цільовим, щоб не гальмувати застосування технології в медицині, освіті та інших суспільно важливих сферах. Конкретної ставки або моделі адміністрування він не називає.

Отримані кошти мають спрямовуватися працівникам, які втратили роботу, зарплату або частину робочих годин, а також громадам із найбільшою концентрацією таких втрат. Гейтс визнає, що оподаткування може дещо сповільнити зростання продуктивності, але вважає це прийнятною ціною за пом’якшення соціальних наслідків автоматизації.

Чому Гейтс заговорив про ризики ШІ саме зараз

Гейтс пояснює зміну своєї позиції неочікувано швидким удосконаленням моделей і небажанням індустрії реагувати на можливості, які раніше вважали небезпечними рубежами. В інтерв’ю The New York Times він заявив, що фахівці, які добре розуміють потенціал сучасних систем, приватно висловлюють серйозне занепокоєння. Однак публічно керівники технологічних компаній говорять про ризики обережніше, оскільки галузь залучає величезні інвестиції.

Його застереження привертають увагу саме тому, що він десятиліттями був одним із головних прихильників технологічного прогресу. Водночас Гейтс визнає, що його статки та інвестиції в технологічні компанії можуть викликати сумніви в неупередженості. Він стверджує, що прибутки від цих інвестицій підуть Фонду Гейтса, але оцінювати можливий вплив фінансової зацікавленості пропонує самим читачам.

Гейтс вважає своїм завданням порушувати тему ШІ під час розмов із законодавцями, світовими лідерами та розробниками. Поряд із глобальною охороною здоров’я він називає її одним із двох головних питань, до яких планує постійно привертати увагу. «Я не люблю казати, що сукупний ефект інновації може виявитися негативним. Але саме там ми опинилися», — підсумував він.