Прощай, Скайнет: чому комп'ютеру не судилося набути свідомості

Прощай, Скайнет: чому комп'ютеру не судилося набути свідомості

Багато передових проектів в області штучного інтелекту говорять, що працюють над створенням свідомої машини, грунтуючись на ідеї, що функції мозку просто кодують і обробляють мультисенсорну інформацію. Передбачається, що, як тільки функції мозку будуть правильно зрозумілі, їх можна буде запрограмувати в комп'ютер. Microsoft нещодавно оголосила, що витратить $1 млрд саме на це.

Поки що спроби побудувати мозок суперкомп'ютера далекі від реалізації. Європейський проект вартістю в декілька мільярдів доларів, початий в 2013 році, вважається проваленим. Ці зусилля перемкнулися на схожий, але менш амбітний проект в США, спрямований на розробку нових програмних інструментів для дослідників, які вивчають дані мозку, а не моделюють мозок.


Деякі дослідники продовжують наполягати на тому, що симуляція нейробиологии за допомогою комп'ютерів — можливий шлях. Інші, як і я, вважають ці зусилля приреченими на провал, оскільки ми не віримо, що свідомість обчислена. Наш основний аргумент полягає в тому, що мозок об'єднує і стискає безліч компонентів досвіду, включаючи зір і запах, які просто не можуть бути оброблені таким чином, як сприймають, обробляють і зберігають ці сучасні комп'ютери.

Мозок працює не як комп'ютер

Живі організми накопичують досвід в мозку, адаптуючи нейронні зв'язки в активному процесі між суб'єктом і довкіллям. Комп'ютер, навпаки, записує дані в короткострокові і довгострокові блоки пам'яті. Це означає, що обробка інформації в мозку також повинна відрізнятися від роботи комп'ютерів.

Розум активно досліджує довкілля, щоб знайти елементи, які ведуть до виконання тієї або іншої дії. Сприйняття не має прямого відношення до сенсорних даних: людина може ідентифікувати стіл з різних точок зору, без нужди усвідомлено інтерпретувати дані, а потім звернутися до пам'яті із запитом, чи можна створити цей шаблон за допомогою альтернативних уявлень про об'єкт, отриманих раніше.

Інша точка зору на це полягає в тому, що найбуденніші завдання пам'яті пов'язані з декількома областями мозку, деякі з яких досить великі. Навчання навичкам і досвід припускають реорганізацію і фізичні зміни, такі як зміну сили зв'язків між нейронами. Такі перетворення неможливо повністю відтворити на комп'ютері з фіксованою архітектурою.

Обчислення і свідомість

У своїй недавній роботі я виділив деякі додаткові причини, по яких свідомість неможливо обчислити.

Свідома людина розуміє, про що він думає, і здатний перестати думати про одне і почати думати про інше — незалежно від того, де він знаходився в початковому потоці думки. Але для комп'ютера це неможливо. Більше 80 років тому британський учений-комп'ютерник Алан Т'юринг показав: немає способу довести, що якась конкретна комп'ютерна програма може зупинитися самостійно — а це центральна здатність свідомості.

Його аргумент заснований на логічному прийомі. Він створює внутрішнє протиріччя: уявіть, що існує загальний процес, який може визначити, чи зупиниться яка-небудь аналізована програма. Результатом перевірки буде або "так, зупиниться", або "немає, не зупиниться". Досить просто. Але потім Т'юринг припускає, що хитрий інженер написав програму, яка включає процес перевірки можливої зупинки, з одним найважливішим елементом: вказівкою продовжувати роботу програми, якщо відповідь була "так, зупиниться".

Запуск процесу перевірки зупинки в цій новій програмі обов'язково приведе до помилки: якщо перевірка покаже, що програма зупиниться, інструкції програми скажуть їй не зупинятися. І навпаки, якщо перевірка покаже, що програма не зупиниться, інструкції програми зупинять все негайно. Це не має сенсу — і Т'юринг зробив висновок, що не існує способу проаналізувати програму і бути абсолютно упевненим, що вона може зупинитися. Тому неможливо бути упевненим в тому, що будь-який комп'ютер може копіювати систему, яка точно може зупинити хід своїх думок і перемкнутися на інші думки, — а упевненість в цій здатності служить невід'ємною частиною свідомості.


Ще до роботи Т'юринга німецький квантовий фізик Вернер Гейзенберг показав, що існує явна відмінність в природі фізичної події і том, як його сприймає спостерігач. Австрійський фізик Эрвин Шредингер представив це так, що свідомість не може походити з фізичного процесу, подібного до комп'ютерного, який зводить усі операції до базових логічних аргументів.

Ці ідеї підтверджуються даними медичних досліджень про те, що в мозку немає унікальних структур, що управляють свідомістю. Навпаки, функціональна МРТ показує, що різні когнітивні завдання відбуваються в різних областях мозку. Відштовхуючись від цього, нейробіолог Семир Зеки дійшов висновку, що "свідомість — це не щось цілісне, замість цього існує багато свідомості, яка розподілена в часі і просторі". Цей тип безмежних розумових здібностей — не те завдання, з яким коли-небудь зможе впоратися кінцевий комп'ютер.


Надрукувати