Q:
Чому компанія може закрити AI проект чат-бота?
A:Компанії можуть закрити проекти чат-штучного інтелекту з багатьох причин, але найімовірніші з них можуть бути об'єднані в декілька категорій. По-перше, компанії можуть вимкнути технології чат-ботів, якщо вони діють способами, які можуть зробити компанію незручною, наприклад, популяризуючи протирічну мову. Крім того, компанії можуть закрити проект чат-боту, якщо він почне демонструвати чутливість і здатність, які або не можуть бути легко контролюватись, або можуть становити якусь можливу загрозу для здоров’я та безпеки населення.
У нас обидва ці сценарії задокументовані в недавній історії. Експеримент Майкрософт з чат-ботом "Тей" закінчився, коли Тей почав переймати деякі найгірші характеристики своїх людських колег - расистські та агресивні коментарі та загалом протирічну діяльність, багато з яких було чітко вивчено або навіть папуговано безпосередньо від користувачів.
У зовсім іншому випадку, установку чат-боту, яке запровадило Facebook, було припинено, коли вчені спостерігали за двома чат-ботами, що спілкувались один з одним таким чином, який був дещо виключним для людського спостереження. Існувала думка, що чатботи почали «говорити за допомогою свого коду», який був для них більш зручним і менш прозорим для їхніх людей. Це приклад тієї реальної занепокоєння навколо штучного інтелекту взагалі - що, коли ми досягаємо великих успіхів у прогресуванні сильного штучного інтелекту, люди повинні діяти, щоб містити та контролювати будь-які приклади впровадження ШІ, щоб переконатися, що вони не перетинаються межі. Існує велика кількість етичних проблем та питань безпеки, які потребують вирішення з сильним штучним інтелектом, і це одна з головних причин того, що деякі чат-боти або інші проекти штучного інтелекту в майбутньому можуть бути закриті зацікавленими сторонами. і підтримував їх через певний процес.
