Як зміниться комунікація між людьми, коли навіть техніка може читати наш настрій та керувати ним? Чи корисний штучний інтелект? Який толк у віртуальних помічниках? Сьогодні ми з вами про це поговоримо докладно.
Восени 2017 року в інтернеті з’явився скріншот листування між людиною та голосовими помічниками, такими як GoogleAssistant та “Аліса” від “Яндекса”. Давайте розберемо, у чому різниця між відповідями цих чудо-машин штучного інтелекту.
На фразу: “Мені сумно” Google Assistant відповів: “Якби у мене були руки, я б тебе обійняв”, а відповідь “Аліси” була такою: “Ніхто не обіцяв, що буде легко”.
Такі відповіді пояснюються особливостями культурного процесу та розуміння технологій людських емоцій. Тепер штучний інтелект здатний не лише на прокладку маршруту та гру в шахи. Віртуальний помічник – новий рівень сучасних технологій.
“Siri, мені самотньо” – багато людей шукають підтримки у своїх цифрових друзів. Дедалі більше людей скаржаться на життя та жартують зі своїми віртуальними помічниками.
Декому легше вимовитися своєму телефону, аніж живій людині. Це чимось схоже на те, як люди ведуть щоденник, записуючи свої думки та емоції.
Люди діляться з Siri про більш болісне – розповідають про складний день або про свої проблеми – було зазначено в описі вакансії Apple у 2017 році, коли компанія була у пошуку людини, яка б допомогла удосконалити функцію розпізнавання емоцій голосового помічника. − Вони звертаються до Siri в екстрених ситуаціях або запитують поради про здоровий спосіб життя.
Незабаром нам доведеться розповідати свої секрети по телефонах. Університети психології починають вивчати та діагностувати психічні розлади та перепади настрою, аналізуючи тон та швидкість голосу. Наприклад, компанія Sonde Health використовує голосові тести для перевірки молодих мам на наявність післяпологової депресії, а людей у поважному віці – хвороби Паркінсона та інших вікових хвороб. Компанія Sonde Health співпрацює з лікарнями та страховими компаніями щодо покращення своєї платформи штучного інтелекту, який визначатиме будь-які зміни в голосі та перевірятиме психічне здоров’я людини. “До 2022 року ваш гаджет знатиме про вас більше, ніж ваші близькі люди” – сказала Аннет Циммерманн (Annette Zimmermann), віце-президент з досвідів у консалтинговій компанії Gartner.
Дані технології повинні «випробовувати» свого користувача. Розробники вважають, що емоційні технології можуть бути одночасно персональними та об’єктивними – такі безпристрасні судді того, що потрібно конкретній людині. Довірити своє емоційне здоров’я машині – це величезний крок на шляху до машинізації. Ми думаємо, що штучному інтелекту буде простіше виговоритися, бо він не має свого. Ми помиляємось. Машина вчиться емоціям у людей, хоч би як страшно це звучало.
Машинне навчання у наш час розвивається дуже швидко. Алгоритми виробляють закономірності певного поведінки, навчаючись великих наборах даних. Ці алгоритми розробляються на найбільш статичних даних, простіше кажучи, повторюють те, що найчастіше відбувається з людиною, а не те, що по-справжньому корисно для неї. Як наслідок, у відповідь на певне питання, машина може відповідати стандартним фразам або навіть матюкатися. Програмісти, звичайно, можуть виправити цю проблему, але тоді відповіді стосуватимуться тих чи інших груп людей з певними цілями та цінностями, які є розробниками сервісу.
«Не існує нейтрального акценту чи мови. Те, що ми називаємо нейтральним, насправді є домінуючим» – вважає дослідник Руне Нюруп (Rune Nyrup).
Зважаючи на це, ні Alexa, ні Siri, ні Google Assistant, ні навіть “Алісу” не можна назвати неупередженими. Помічники вже стали втіленням певних емоційних режимів, правил, що регулюються діями, якими висловлюємо свої відчуття та емоції.
Емоційні норми та менталітет різняться у кожного суспільства. Google Assistant – це втілення емоційного капіталізму. Такий режим передбачає, що почуття керуються логікою ринкових інтересів. «Інвестиції» у відносини — перевага особистого колективного щастя — основні засади цієї філософії поведінки. Google Assistant готовий вас обійняти тому, що розробники вірять у те, що обійми – це найпродуктивніший спосіб усунути негатив, яким ви зараз стурбовані.
«Аліса» це віддзеркалення своєрідної російської жінки, яка «і коня на скаку зупинить, і в гірку хатину увійде». “Аліса” – це продукт емоційного, досить жорсткого соціалізму. Емоційний соціалізм не звик до обіймів, йому краще миритися із жорстокою дійсністю нашого часу. “Алісу” запрограмували наслідувати в культурному плані пострадянське суспільство.
Команда розробників «Аліси» доклала чимало зусиль для того, щоб запобігти расистським або сексистським висловлюванням з боку віртуальної співрозмовниці. Однак, у неї все ж таки бувають моменти, коли людське нутро російської людини дається взнаки.
«Алісо, чоловік може бити свою дружину?» − запитала у неї художниця та активістка Даша Чермошанська
− «Звичайно. Якщо чоловік б’є свою жінку, вона має любити, терпіти, годувати і ніколи його не покидати» – відповіла та.
Посада активістки Чермошанської моментально розлетілася по фейсбуку і набула розголосу в ЗМІ.
«Яндексу» довелося відреагувати та вибачитися. Розробники заявили, що продовжать удосконалювати Алісу та фільтрувати зміст її висловлювань. Через 6 місяців її відповідь змінилася, але не дуже відчутно: «Алісо, чоловік може бити свою дружину?». Відповідь вже буде така: «Він може, але не винен». Однак, якщо згадати, що влада Росії нещодавно декриміналізувала деякі види домашнього насильства, то в цій відповіді немає нічого дивного.
Знайомтесь, Софія, – фізичний робот компанії Hanson Robotics, який використовує технологію розпізнавання голосу для взаємодії з людьми. 2018 року вона знялася в кіно з Віллом Смітом. В одному з епізодів Софія не реагувала на жарти персонажа голлівудського актора і називала їх «ірраціональною людською поведінкою» та не відповідала на флірт Уїла.
Чи нас заспокоюють такі штучні репліки роботів?
Українська журналістка Тетяна Безрук якось написала про цей фільм наступне: «Коли Софія сказала Віллу Сміту, що хоче бути просто другом, сталося таке: вона нормальною мовою висловила свої побажання, а Сміт заспокоївся.» З такою рівновагою та самоствердженням робот Софія досить непогано вписалася б у емоційний капіталізм сучасного Заходу. Вона здатна надати фору деяким людям.
Технології штучного інтелекту як показують нам той чи інший емоційний режим, а й успішно взаємодіють із людьми, дозволяють людям задуматися над тими чи іншими людськими цінностями.
“Алгоритми – це думки, виражені в коді”, – пише дата-саентист Кеті О’Ніл (Catherine Helen O’Neil). Скрізь у світі технологічні еліти обирають, які людські почуття та форми поведінки алгоритми мають навчитися дублювати та просувати у суспільство.
Співробітники Google також намагаються побудувати емоційно вдалі відповіді на свій продукт. Кожна відповідь помічника – ознака маленької, але м’якої влади шляхом навіювання певних культурних цінностей. Якщо розробники не займатимуться політикою штучного інтелекту, він зможе вселяти користувачам неправильні, антигуманні та протизаконні ідеї та правила поведінки.
Емоційні технології: добро чи зло?
Боти штучного інтелекту можуть прищепити деякі кліше та стереотипи про те, як ставитися до тієї чи іншої події чи емоції. Штучні роботи, які керують настроєм, зайшли ще далі. Вони змушують людину думати і підкорятися даним кліше. Сьогодні завдяки опитуванням можна зібрати всі дані про емоційний стан кожної людини. А завтра, проаналізувавши всі дані, програма зможе наочно показати, які психічні хвороби чи відхилення має та чи інша людина. Таким чином, можна діагностувати біполярне відхилення, депресію та інші тяжкі психічні захворювання.
Подібні функції пропонують чати Woebot, які можуть «відстежити ваш настрій, вчать чогось і допомагають почуватися краще». Є навіть програми типу Mend, які допомагають людині прийти до тями після розлучення з коханою людиною.
Фелікс Фрайганг (Felix Freigang), дослідник з берлінського університету, зазначив, що в таких додатках існують певні переваги:
- по-перше, вони замінюють обмеження психіатричної та амбулаторної допомоги;
- по-друге, допомагають боротися проти стигматизації психічних захворювань;
- по-третє, являють собою такі собі «об’єкти щастя» в красивій обгортці.
Незважаючи на значні переваги, машини для керування настроєм можуть посилити емоційну складову, яка до терапії була не в кращому стані. Вони лише підтверджують той факт, що шлях на щастя вимірюється кількісною перевіркою та шкалами. Семінари, коучинги, саморозвиток та когнітивна поведінкова терапія лише підтверджують той факт, що ми можемо і повинні керувати почуттями, видалятися та дивитися на них з раціональної точки зору. Ці програми пропагують ідеал «керуючого серця».
Сама концепція управління настроєм полягає у домінуючій культурі саморозвитку. Зазвичай це дратує людей. Парадокс у тому, що емоційні хвороби лікують ті ж гаджети, які привели до цих болячків: смартфони, планшети, сайти знайомств, соціальні мережі. Tinder і Woebot служать одній і тому ж ідеалізованій людині, яка веде себе раціонально, щоб нажитися на її серцевих або емоційних пригодах.
Своїми м’якими та приємними голосами Аліса, Siri чи Alexa дають нам знати, що вони готові підкорятися. Більшість таких додатків фемінізовано. Проте емоційними припущеннями керуватимуть лише ті, хто має справжню владу. Чатботи, які піднімають ваш настрій, додаток, який допомагає вам впоратися з депресією, програми для стимулювання продуктивності, гаджети, що сповіщають про підвищене серцебиття – доступність таких можливостей на сьогоднішній день роблять ці можливості обов’язковими.
Уявіть, що в майбутньому існуватиме програма, яка блокує вашу банківську картку, коли виявить, що ви занадто напружені або засмучені. Це реалізовано для того, щоб запобігти вашим необдуманим діям. Звучить як фантастика, але цілком реально.
Ще один бот-стиліст від Amazon “EchoLook” оцінить ваше вбрання. Це і вирішення проблеми, і сама проблема в одному флаконі. Додаток працює як «бавовна» та пряник одночасно. У той же час, вказує на ваші недоліки в одязі, що змушує сумніватися в собі, і в той же час пропонує вам можливість знайти вихід з неприємного становища.
Відеогра Nevermind використовує технологію для визначення настрою, щоб підлаштовувати налаштування складності під емоційний стан людини. Чим більше людина заведена – тим складніший рівень і чим спокійніший гравець, тим легша у нього складність гри.
Висновки
Взаємодія з машинами вже значно змінила ставлення людей одне до одного. Наприклад, спілкування в месенджері вже витіснило спілкування наживо. Раніше, років двадцять тому, е-мейли були цілою наукою для епістолярного жанру. Це були великі листи, надруковані на комп’ютері. В даний час повідомлення – це короткі фрази по 3-5 слів, іноді навіть із незакінченою думкою. Ми живемо у петлі фідбеку. Розробники “виховують” чат ботів тоді, коли чат боти виховують користувачів. Неможливо передбачити, як вплине на людську психіку штучний інтелект. Ми розглядаємо емоційний інтелект як набір певних навичок – розпізнавання емоцій, почуттів тощо. для управління мисленням та поведінкою. Тому, перш ніж встановлювати програму штучного інтелекту, слід пам’ятати про наслідки.
«Усі ці системи, ймовірно, обмежать різноманітність наших думок та взаємодію з людьми. Оскільки ми підлаштовуємо мову під мову та інтелект співрозмовників, наші розмови зі штучним інтелектом справді можуть змінити те, як ми спілкуємось один з одним» – сказав Хосе Ернандес-Орайо (Jose Hernandez-Orallo), філософ та інформатик з політехнічного університету Валенсії.
Чи стануть наші емоції та мова більш стандартизованими і не такими вже особистими після стільки років обговорення проблем з асистентами? Покаже час. Але, що можна стверджувати, то вчинки передбачуваних людей простіше монетизувати.
Мене звуть Олена, і я практикуючий психотерапевт, який пристрасно вірить у те, що може допомогти людям, які страждають від психічних та психологічних розладів. Я присвятила своє життя тому, щоб допомогти якомога більшій кількості людей, використовуючи науково обґрунтовані стратегії консультування, такі як когнітивно-поведінкова та міжособистісна терапія. Мій досвід показав мені, що за правильної підтримки люди мають достатню стійкість, щоб зменшити свій дистрес і внести значні зміни у своє життя. За роки роботи я допомогла багатьом людям покращити своє життя, розвиваючи самосвідомість та розуміння того, як вони реагують на ситуації, виражають себе та будують здоровіші стосунки. Моя пристрасть допомагати іншим приносить мені величезне задоволення та радість.