Чи можете ви довіряти AI? Чи варто сприймати її висновки як об'єктивно обгрунтовані без запитань? Проблема полягає в тому, що навіть допит самого ШІ не дав би чітких відповідей.
Системи AI, як правило, функціонують як чорний ящик: дані вводяться, а дані виводяться, але процеси, які перетворюють ці дані, є загадкою. Це створює подвійну проблему. Одне полягає в тому, що незрозуміло, які алгоритми є найбільш надійними. Інша полягає в тому, що, здавалося б, об'єктивні результати можуть бути перекошені цінностями та упередженнями людей, які програмують системи. Ось чому існує потреба у прозорості для віртуальних мисленнєвих процесів, які використовуються в таких системах, або «пояснюваного ШІ».
Етичний імператив став юридичним для тих, хто підпадає під дію GDPR, що впливає не тільки на підприємства, що базуються в ЄС, але і на будь-які, хто має стосунки з людьми чи організаціями там. Він містить низку положень про захист даних, які поширюються на громадян ЄС "право не підлягати виключно автоматизованому прийняттю рішень, за винятком певних ситуацій" та "право на отримання значущої інформації про логіку, що бере участь у прийнятті рішення . "
