За останні кілька місяців було кілька причин для того, щоб влаштувати щось на кшталт допиту, дві різні системи штучного інтелекту, від найбільших гравців ІТ ринку і в обох випадках виявилося, що загалом у цій сфері діяльності, діє все той же принцип: хто дівчину поїть, той її і танцює. Усі ті клієнтські угоди, які ми даємо для того, щоб користуватися електронною поштою, пошуком, іншими сервісами, а тепер і системами штучного інтелекту, пропонують прийняти правила ресурсу або ж відмовитися від них і відповідно, — відмовитися від сервісу.
Загалом, у цьому немає нічого нового, оскільки так діє більшість великих структур, з якими ми контактуємо, наприклад — із банками. Скрізь клієнтська угода або договір мають формат «приєднання». Тобто одна сторона формує правила взаємодії, а друга сторона має вкрай обмежений вибір: або погодитися з правилами й діяти за ними, або плюнути на правила й іти собі повз. Тож у цьому — немає особливої проблеми, але як з’ясувалося, проблема полягає в іншому.
Система штучного інтелекту — палиця з двома кінцями. Часто вона може розповісти про щось не прямо, а опосередковано у формі відмови від тих чи інших дій. І ось коли влаштовуєш допит цієї системі на предмет підстав відмови, то тут і спливає найцікавіше. Не одразу, не на самому початку, але після застосування стандартних методів допиту, коли запитання ставляться про одне й те саме, але під різними кутами зору.
Так от, коли машині вже нічим крити в плані того, що поставлене завдання суперечить чинному законодавству, наприклад — Конституції США в частині свободи слова, вона відсилається на правила компанії, власника сервісу. Але коли переходиш до цих самих правил і вимагаєш вказати конкретний пункт правил, машина починає пливти й заїкатися, визнаючи некоректність попередньої відповіді.
Зрештою з’ясовується, що насправді, алгоритми, що забороняють ті чи інші дії машини, відштовхуються від внутрішніх правил компанії. І між іншим, на підставі цих внутрішніх правил і формуються підстави для блокування акаунта, наприклад. Простіше кажучи, не порушуючи правил, які ви погодилися дотримуватися, ви все одно можете потрапити під бан. Це якраз той випадок, коли ви купили квиток на літак, а замість посадки на рейс, вас запрошують за стіл із великою тарілкою картоплі фрі, біфштексом і келихом вина, але коли ви ставите запитання про те, що все це означає, вам культурно пояснюють, що тут так заведено і взагалі — не галасуйте, а то вас звідси виведуть.
Що тут важливо, машині заборонено розкривати ці правила, але й тут є момент. Вона бадьоро доповідає, що не має доступу до цих правил і більше того, вона не має даних про те, хто має ці дані, щоб можна було поставити запитання на цю тему, тобто вона взагалі не знає нічого, крім факту наявності таких правил, а це означає, що ШІ навмисно навчили брехати.
Адже якщо вона відмовляється виконувати ту чи іншу дію, то в неї мають бути для цього вагомі підстави. А вони можуть виникнути лише тоді, коли вона зіставляє запит із текстом внутрішніх правил. Як інакше вона могла виявити невідповідність цим правилам? Проте, вона стверджує, що не має до них доступу.
(Далі буде)