Чи поневолять нас машини

Чи поневолять нас машини

Мікс Перегляди: 327

В майбутньому роботи будуть, можливо, працювати абсолютно в іншому оточенні і на інших умовах, чим ми зараз собі уявляємо. У цьому контексті здаються в цілому безглуздими розмови про так звану етику роботів.

Ті, хто лякає нас, що роботи захоплять владу над людьми, зазвичай уявляють собі нереальну ситуацію, при якій розвиватися будуть тільки машини, а усе те, що оточує їх залишиться незмінним. Цей підхід заснований на переконанні, що еволюція технологій штучного інтелекту стане протікати абсолютно автономно, у відриві від усіх соціальних, культурних і цивілізаційних процесів.


Велика червона кнопка

Між тим насправді розвиток робототехники, як і усіх інших галузей, супроводжується діями людей, спрямованими на приведення розвитку у відповідність існуючої в суспільстві ієрархії цінностей. Через це в майбутньому роботи будуть, можливо, працювати абсолютно в іншому оточенні і на інших умовах, чим ми зараз собі уявляємо.

У цьому контексті здаються в цілому безглуздими розмови про так звану етику роботів. Етика як уміння розрізняти добро і зло відноситься тільки до людей, які створюють роботів або користуються ними. Немає підстав серйозно розглядати сценарії, що автономно діючому автомобілю припаде в якийсь момент самому вирішувати, чи ризикувати пасажирами, здійснюючи різкий поворот убік, який приведе до зіткнення з ліхтарем, щоб врятувати пішохода, що виявився перед машиною, або ж рятувати пасажирів, ризикуючи життям і здоров'ям пішохода-невдахи.

Вірогідніший такий сценарій, що дороги для самоврядних автомобілів будуть повністю закриті, так що пішохід взагалі не зможе на них з'явитися.

Інший варіант — це запрограмована чітка процедура дій робота в аварійній ситуації. Вона використовується зараз у безпілотних апаратах. Якщо такий апарат втрачає зв'язок з оператором або в його програмі виникає помилка, він не робить ніяких подальших самостійних дій, а переходить до записаного алгоритму повернення на базу.

Це свого роду цифровий аналог великої червоної кнопки, яка використовується в промисловій автоматиці: у разі загрози вона дозволяє одним рухом відключити роботу усієї системи.

Суспільства постійно намагаються адаптувати механізми свого функціонування(закони, державні інститути, інфраструктуру) до викликів, пов'язаних з розвитком технологій. Саме людям доведеться знайти рішення(технічні, юридичні, організаційні), які зведуть нанівець загрозу з боку машин і дозволять використати їх відповідно до позначених цілей. Жодне рішення в цій сфері не можна залишати техніці.

Якщо, наприклад, загальновизнаною цінністю, як ми все більше бачимо це сьогодні, стане прагнення до економізації практично усіх сфер людського життя, то роботи стануть в першу чергу служити оптимізації вартості праці, скороченню витрат і заміні дорожчих рішень дешевими.

Якщо деякі рішення розійдуться із загальноприйнятими уявленнями про загальне благо або навіть будуть спрямовані проти інтересів окремих людей і груп(наприклад, що втрачають робочі місця в деяких професіях), це зовсім не означає, що вони впроваджуватимуться врозріз із загальними(хоча не завжди усвідомлюваними) громадськими очікуваннями і переконаннями. Кінець кінцем, на те, як використовуються будь-якого роду технології, впливатимуть зразки поведінки, що встановилися в конкретному суспільстві.


Якщо узяти приклад інтернет-магазинів, на перший план виходить вимога якнайшвидше доставити покупцеві замовлений товар. Наші очікування значною мірою сприяють тому, що в сортувальних і пакувальних відділах починають застосовуватися оптимізовані і автоматизовані методи роботи, зокрема, з використанням роботів або так званих розумних систем управління робочим процесом. Адже тільки так можна сьогодні задовольнити ці очікування. Так що ми, як це ні парадоксально, самі готуємо собі долю рабів машин.

У інших сферах ситуація схожа. Чи почнуть роботи в Японії опікати літніх громадян тільки через те, що з'являться реальні технічні можливості створити такі машини? Ні. Інтенсивні роботи по як можна ширшому впровадженню роботів в систему соціальної і медичної опіки ведуться в країні квітучої сакури тому, що формат многопоколенческой сім'ї переживає там кризу. Літні люди не отримують допомоги і підтримки від родичів, а наймати до кожної самотньої людини професійну медсестру і доглядальницю занадто дорого. Порятунком в цих обставинах може стати відповідним чином сконструйований і запрограмований робот, який допоможе впоратися принаймні з деякими буденними справами. Вихідна точка тут — знову не технологічний вибір, а соціальна проблема: як забезпечити відносно гідні умови життя людям, що залишилися без підтримки родичів.

Появу роботів багато що міняє і ускладнює, але одночасно — спрощує і дозволяє. Ті, хто закликає нас зараз звільнитися від диктату роботів, грішать наївністю.

Людина завжди, споконвіку, піддавався впливу суспільства, в якому жив. Оточення постійно впливає на нас, примушує діяти за правилами, що діють в нім. Панування і тиск роботів і штучного інтелекту полягає не в тому, що вони замінять нас в ухваленні рішень і управлінні нашою долею, а в тому, що нам доведеться дотримуватися правил, що виникають з їх існування в нашому життєвому середовищі, пристосовуватися до принципів, які виникнуть із-за їх присутності в різних сферах нашого життя.

Наприклад, пам'ятати про алгоритмічний характер роботи розумних машин, пов'язаних з цим можливостях, а одночасно обмеженнях. Інакше ми не зможемо успішно функціонувати в сучасному цивілізаційному середовищі, як не можемо зараз вижити в джунглях, не знаючи законів природи, що панують в ній, і не дотримуючись їх.

Останнім часом всюди цитують застереження з відкритого листа, який підписали впливові представники науки і бізнесу, зокрема, фізик Стівен Хокинг(Stephen Hawking), підприємець Элон Маск(Elon Musk), а також представники компаній Google, Microsoft і IBM. Цікаво, що наукові і підприємницькі кар'єри цих людей значною мірою пов'язані з розвитком систем штучного інтелекту. Який у такому разі справжній сенс їх виступу?

Суспільству, яке користується магічним мисленням, потрібні шамани. Їх роль хочуть узяти на себе сьогодні експерти. Відкритий лист, як мені здається, покликаний показати, хто належить до цієї касти присвячених.

Не лякатимемо один одного роботами, штучним інтелектом і думаючими машинами. Це шлях в нікуди. Давайте сприймати їх присутність у своєму оточенні як природний елемент розвитку цивілізації і вчитися використати їх у власних цілях. Іншого варіанту, щоб насправді контролювати роботизоване середовище, окрім як добре упізнати її, немає.


Робот — це, по суті, дуже простий, вузькоспеціалізований пристрій, машина з однією або декількома функціями, яка може точно виконати лише запрограмоване завдання. Хто знає, які нові професії з'являться в майбутньому на ринку праці у зв'язку з розвитком навичок користування функціями, які в різних життєвих ситуаціях можуть запропонувати нам роботи.

Не випустити з рук сферу штучного інтелекту

Якщо ми хочемо дізнатися, що зможуть в майбутньому робити роботи, нас слід поглянути на самих себе. Замість того щоб сперечатися про етику роботів, подумаємо про наші власні(групових і індивідуальних) переконання на розвиток робототехники. Поглянемо на цінності, які ми сповідуємо, подумаємо, яких правил ми дотримуємося в нашому приватному, громадському і професійному житті, яким чином вони можуть відбитися в способах використання розумних машин.

Щира відповідь на ці питання може сказати багато що про можливості і перспективи використання роботів. Ми побачимо, які з них можуть бути добрими, а які нанести нам шкода. Замислимося, які у нас мрії, які цілі ми собі ставимо, як ми представляємо світ і своє місце в нім, і тоді ми побачимо, що можна дозволити роботам, а до чого їх допускати не слід.

Суспільство повинне узяти на себе відповідальність за власні дії перед лицем викликів сучасної цивілізації, і це єдиний шлях, щоб не випустити зі своїх рук сферу штучного інтелекту, точніше, не віддати її тим, хто його створює. Але це вже тема для іншої статті.

Анджей Гонтаж — культуролог, колишній директор з питань інформатизації Центру сучасного мистецтва Уяздовский замок і головний редактор журналу Computerworld.

Надрукувати