Штучний інтелект: що чекає людей у світі розумних машин?

Штучний інтелект: що чекає людей у світі розумних машин?

Нова книга "Штучний інтелект" — для тих, хто вірить в здатність людства створити надрозумні машини. Що станеться, якщо комп'ютери виявляться розумніші за людей? Ким вони стануть для нас: помічниками або ворогами? Чи можна сьогодні ігнорувати проблему розвитку штучного інтелекту?

Професор факультету філософії Оксфордського університету Нік Бостром намагається усвідомити проблему, що встає перед людством у зв'язку з перспективою появи надрозуму.


Євгеній Касперский, генеральний директор "Лабораторії Касперского"

"Автор вважає, що смертельна загроза пов'язана з можливістю створення штучного інтелекту, що перевершує людський розум. Катастрофа може вибухнути як у кінці XXI століття, так і в найближчі десятиліття. Уся історія людства показує: коли відбувається зіткнення представника нашого виду, людини розумної, і будь-якого іншого, що населяє нашу планету, перемагає той, хто розумніший. Досі розумними були ми, але у нас немає гарантій, що так триватиме вічно.

Нік Бостром пише, що якщо розумні комп'ютерні алгоритми навчаться самостійно робити ще розумніші алгоритми, а ті, у свою чергу, ще розумніші, станеться вибухове зростання штучного інтелекту, в порівнянні з яким люди виглядатимуть приблизно як зараз мурашки поряд з людьми, в інтелектуальному сенсі, звичайно.

Сценарії

На сьогодні, якщо брати рівень загального інтелектуального розвитку, машини абсолютно поступаються людям. Але одного разу розум машини, швидше за все, перевершить розум людини. Можна представити три типи сценаріїв зльоту інтелектуальної системи з людського на надрозумний рівень — повільний, швидкий і помірний:


1. Повільний зліт. Відбуватиметься на довгих тимчасових інтервалах — від десятиліть до століть. Такі сценарії є прекрасними можливостями, щоб людство змогло обдумати свої подальші політичні ходи, адаптувати їх до ситуації і правильно реагувати на те, що відбувається. Можна буде послідовно тестувати різні підходи, навчити і підготувати нових фахівців.

Передвиборні кампанії будуть орієнтовані на прибічників і супротивників процесів, що відбуваються. Якщо з'ясується, що потрібні нові системи безпеки і громадського контролю над дослідженнями в області штучного інтелекту, буде досить часу, щоб їх розробити і розгорнути.

2. Швидкий зліт. Станеться впродовж дуже короткого проміжку часу — хвилини, години, дні. У сценаріях швидкого зльоту у людей майже не залишається можливості реагувати на нього. Ніхто не встигне нічого помітити, а гра вже виявиться програною.

У будь-якому сценарії швидкого зльоту доля людства в основному залежить від підготовчої роботи, вже проведеної до цього моменту. У найповільнішому зі швидких сценаріїв з боку людей ще можуть бути зроблені якісь елементарні рухи тіла ніби потягнутися відкрити "ядерну валізку", але тоді алгоритми цих дій мають бути або дійсно елементарні, або заплановані, запрограмовані і відрепетирували заздалегідь.

3. Помірний зліт. Станеться впродовж відносно короткого тимчасового інтервалу — від декількох місяців до декількох років. В цьому випадку у людства залишається деяка можливість відреагувати на те, що відбувається, але не буде часу проаналізувати його, протестувати різні підходи і вирішити складні завдання координації дій.


На створення і розгортання нових систем, таких як політичні заходи, механізми контролю, протоколи безпеки комп'ютерних мереж, часу теж не залишиться, але можливо, вийде пристосувати до нових обставин вже існуючі норми.

Про коней і людей

Універсальний штучний інтелект міг би стати заміною людському інтелекту. Причому УИИ буде здатний виконувати не лише розумову роботу, але і фізичну працю — правда, останнім він займеться не сам, а замінить людей на виконавчі пристрої і роботизовані механізми. Припустимо, працівники-машини, яких дуже легко відтворювати, стали і дешевше, і способнее працівників-людей майже в усіх професіях. Що тоді станеться?

Людина збереже свою конкурентоспроможність тільки в тих сферах діяльності, де клієнти-люди шукатимуть спілкування з собі подібними, а не машинами. Неясно тільки, скільки продовжаться ці переваги. Адже якщо киберальтернативи стануть помітно перевершувати людей на усіх напрямах, можливо, цінувати їх почнуть більше.

Скоротиться кількість робочих місць для людей, оскільки дешева машинна праця зможе замінити людський. В принципі, жах перед настанням автоматизації виробництва і втратою через це роботи не новий. І проте, хоча машини виконують багато видів робіт, вони залишаються доповненням до людської праці. Втім, все, що починається як доповнення, з часом займає головне місце. Спочатку кінь доповнював вози і плуги, значно підвищуючи їх продуктивність. Пізніше вона повністю поступилася своїм місцем автомобілям і тракторам. Чи не чекає аналогічна доля і наш вид?

В результаті різкого падіння попиту на людську працю зарплати можуть впасти нижче рівня прожиткового мінімуму. Тобто потенційно працівники-люди ризикують дуже сильно: йдеться про перспективи голодної смерті. Якщо власниками капіталу залишаться люди, сукупний доход людства виросте до астрономічних масштабів, незважаючи на той факт, що в цьому сценарії ми вже не отримуватимемо доходи у вигляді зарплати. Тобто людство в цілому може казково розбагатіти. Питання в тому, як буде розподілено це багатство.


Про інші можливі сценарії і про те, як людству готуватися до появи надрозуму, читайте в книзі Ніка Бострома "Штучний інтелект".


Надрукувати