Q:
Чому деяких людей турбує штучний інтелект?
A:Змінити непросто, і багатьом людям важко адаптуватися до цього. Особливо це стосується технологічних змін. Відомий професор Гарвардського університету Калестос Джума написав книгу на тему "Інновації та її вороги: чому люди чинять опір новим технологіям". У книзі викладається напруга між інноваціями та соціальним замовленням, спираючись на 600-річну історію. Вплив технології особливо клопітно, якщо мова йде про штучний інтелект.
Не кожен є несприятливим для цих успіхів. Рей Курцвейл, автор "Сингулярності близько" та "Епоха духовних машин", є не що інше, як євангеліст, що пропагує переваги генетики, нанотехнологій та робототехніки (термін, що використовується для небіологічного інтелекту). Але це ті ж самі питання - і Курцвейл одна і та ж людина - що викликало велику стурбованість у 2000 році для Білла Джоя, головного вченого Sun Microsystems.
Джой писав про свої турботи у відомій зараз статті в журналі Wired під назвою «Чому майбутнє нам не потрібне». Він вважав, що саме на честь ставиться людське майбутнє. Посилаючись на змагання з еволюційної історії, Джой писав: "Біологічні види майже ніколи не виживають зустрічей з вищими конкурентами". Наукові прориви, в результаті яких машини перевершують люди, мають значні ризики. Бачать дистопійське майбутнє.
Припустимо, вченим вдається розробити машини зі штучним надінтеллектом (ASI), рівень інтелекту вищий, ніж у людини. Джой каже, що може статися одне з двох: або машинам буде дозволено приймати власні рішення, або люди будуть підтримувати контроль над ними. Що станеться, якщо ви передасте живлення машинам? Які можуть бути результати?
Білл Джой не єдиний, хто висловлює стурбованість. Технічний гуру Елон Маск сказав: "За допомогою штучного інтелекту ми викликаємо демона". Він назвав це "нашою найбільшою екзистенціальною загрозою". Фізик Стівен Хокінг сказав присутнім на технологічній конференції, що "ми не можемо знати, чи допоможе нам безмежно АІ, або ігнорується нею і боковою підкладкою, або можливо її знищить ". І він сказав журналу Wired:" Я боюся, що ШІ може замінити людей взагалі ".
Чи виправдані ці страхи? Науково-фантастичні фільми на кшталт «Трансценденція», де персонаж Джонні Деппа пов’язується зі штучним інтелектом і хаос, нагадують передбачення Курцвейла про те, як люди могли б боротися з машинами. Уява розігрується про всі шляхи, що штучний інтелект може піти не так. Що відбувається, коли машини беруть контроль?
Два приклади реального життя ілюструють, наскільки тривога щодо штучного інтелекту може бути зрозумілою. У 2007 році гармат-робот загинув дев'ятьох людей і поранив 14. Деякі передові військові зброї автоматично вибирають цілі, але чекають, коли людина потягне курок. Хто приймав рішення тут? У 2016 році 300-фунтовий робочий охоронець збив і наїхав на шістнадцятимісячного малюка. Хто в цьому випадку контролював: людина чи машина?
Причина того, що деяких людей турбує штучний інтелект, полягає в тому, що ризики реальні. Наступне питання: як ми будемо управляти цими ризиками?
