Q:
Чому деякі компанії замислюються над тим, щоб додати «сучасний контроль зворотного зв’язку» до сучасних систем ШІ?
A:Деякі компанії, що працюють із найсучаснішими технологіями AI, працюють над тим, щоб запровадити контроль над цими системами людини, надаючи інструментам машинного навчання та глибокого навчання деякий безпосередній людський нагляд. Ці компанії теж не маленькі гравці - DeepMind Google і OpenAI Elon Musk - це два приклади великих компаній, які отримують практичний досвід щодо штучного інтелекту. Зважаючи на це, результати відрізняються - наприклад, DeepMind став предметом суперечки за його сприйняте небажання публічно надавати ключові дані, в той час як OpenAI набагато більше, відкритий щодо роботи над контролем штучного інтелекту.
Навіть такі відомі, як Білл Гейтс, зважили на це питання, Гейтс заявив, що він є одним із багатьох, хто стурбований появою штучної надрозвідки, яка певним чином може вийти за межі людського контролю. Маск, зі свого боку, також висловив тривожну мову про можливість "шахрайського ШІ".
Це, мабуть, найактуальніша причина того, що компанії працюють над тим, щоб застосовувати людський контроль до ШІ - ідея про те, що певна технологічна особливість призведе до надпотужної розумної технології, яку люди просто більше не можуть контролювати. Ще з світанку людських амбіцій ми встановлювали інструменти, щоб переконатися, що ми можемо контролювати сили, якими ми володіємо - будь то коні з лейцями та джгутами, електрика в ізольованих проводах чи будь-який інший механізм управління, маючи контроль - це притаманна людська функція, і тому в світі має сенс, що оскільки штучний інтелект наближається до реальної функціональності, люди застосовують свій власний прямий контроль, щоб тримати цю силу під контролем.
Однак страх перед супер-інтелектуальними роботами не є єдиною причиною того, що компанії застосовують управління людьми для машинного навчання та AI-проектів. Ще однією головною причиною є машинне зміщення - це ідея, що системи штучного інтелекту часто обмежені в оцінці даних, що стосуються, - щоб вони посилювали будь-які упередження, притаманні системі. Більшість професіоналів, які займаються машинним навчанням, можуть розповісти страхіття про ІТ-системи, які не змогли так поводитися з групами користувачів людей - будь то гендерна чи етнічна невідповідність чи інша неспроможність системи реально зрозуміти нюанси нашого людського суспільства та як ми взаємодіємо з людьми.
У певному сенсі ми можемо поставити управління людьми на системи, тому що боїмося, що вони можуть бути надто потужними - або по черзі, тому що боїмося, що вони можуть бути недостатньо потужними. Управління людьми допомагає орієнтуватися на набори даних машинного навчання для забезпечення більшої точності. Вони допомагають підкріпити ідеї, які комп'ютер просто не може навчитися самостійно, або тому, що модель недостатньо складна, тому що AI не просунувся досить далеко, або тому, що деякі речі просто лежать у провінції людського пізнання. Штучний інтелект чудово підходить для деяких речей - наприклад, система, заснована на винагороді та набрання балів, дозволила штучному інтелекту обіграти гравця людини в надзвичайно складній настільній грі «Іди» - але для інших речей ця система, що базується на стимулах повністю неадекватний.
Коротше кажучи, є чимало вагомих причин для того, щоб спонукати людей безпосередньо брати участь у тому, як працюють проекти штучного інтелекту. Навіть найкращі технології штучного інтелекту можуть багато мислити самостійно, але без власне біологічного людського мозку, який може обробляти такі речі, як емоції та соціальні звичаї, вони просто не можуть побачити велику картину по-людськи.
Кваліфікована компанія з машинного навчання може допомогти досягти цього балансу за допомогою поєднання експертів з бізнесу та предметів, а також розробників машинного навчання, які мають навички вирішувати великі бізнес-проблеми.
