Klienci rozumieją AI przez emocje.
Podobnie jak w przypadku samej marki, postrzeganie AI przez klientów ma głównie wymiar emocjonalny. Nie ma się jednak co dziwić, biorąc pod uwagę, że sami liderzy pionierskich firm, nie do końca są w stanie wytłumaczyć jak implementowane modele działają.
“There is an aspect of this which we call… all of us in the field call it as a black box. You don’t fully understand. And you can’t quite tell why it said this, or why it got wrong. We have some ideas, and our ability to understand this gets better over time, but that’s where the state of the art is.”
~ Sundar Pichai, Google CEO
“It does seem to me that the more we can understand what’s happening in these models, the better,” he added, but admitted OpenAI is not there yet. “I think that can be part of this cohesive package to how we can make and verify safety claims.”
~ Sam Altman, ChatGPT CEO
“People outside the field are often surprised and alarmed to learn that we do not understand how our own AI creations work. They are right to be concerned: this lack of understanding is essentially unprecedented in the history of technology.”
~ Dario Amodei, Anthropic CEO
Źródło:
W takim wypadku nie mamy żadnych metod poznawczych ani przygotowanej heurystyki, która pomogła by klientowi rozumieć AI. Ostatecznie klient skazany jest tylko na swoje możliwości poznawcze oraz emocjonalne reakcje. Badania, z którymi się zapoznałem wskazują jednak, że klienci często wykazują negatywne emocje, kiedy wiedzą, że mają do czynienia z AI.
Ludzie surowiej oceniają AI
Większość badanych ma bardzo duże wymagania względem AI. W naszej percepcji AI nie powinno robić tych samych błędów co człowiek, bo nie podlega tym samym ograniczeniom co my – nie może być rozkojarzone, zmęczone, chore i nieuważne. Właśnie dlatego w przypadku, gdy AI zawiedzie, ludzie znacznie surowiej oceniają taką sytuację.
To zjawisko sprawia, że marki, które mocno podkreślają swoją technologiczną przewagę dzięki AI są jednocześnie oceniane w innej skali, a każde potknięcie i błąd może powodować znacznie poważniejsze skutki niż w przypadku błędu ludzkiego.
Biorąc pod uwagę, że coraz częściej mówi się o implementacji AI w systemach medycznych, samokierujących samochodach, zarządzaniu bezpieczeństwem infrastruktury, musimy być przygotowani na mocniejsze reakcje, kiedy technologia w tych przypadkach zawiedzie.
Marki, które przechwalają się możliwościami AI mogą mieć trudniej
W myśl tej samej zasady, kiedy do komunikacji na temat możliwości AI dodamy scenariusze, które nie są jeszcze osiągalne dzięki technologii, ocena klienta może być jeszcze ostrzejsza. W przypadku kiedy wyolbrzymiamy możliwości AI, klientowi dużo łatwiej obwinić markę za sytuacje, które mogą zdarzyć się losowo albo nawet nie wynikać z samej wady systemu AI.
Widzimy, że tam gdzie coraz więcej marek kładzie nacisk na komunikację AI jako swojej przewagi konkurencyjnej i propozycji wartości , pojawiać się będzie coraz większe napięcie między klientem a marką. Sztuczna inteligencja, poddawana surowszej ocenie, będzie rzutować na to jak oceniamy wszystkie operacje marki, nawet te nie związane z AI.
Kiedy jedno AI zawodzi, wszystkie są na celowniku
Pomimo innych nazw modeli oraz coraz bardziej świadomej pracy nad budowaniem marki własnych modeli w firmach (np. Lilli – model wykorzystywany przez firmę consultingową McKinsley), dla klientów często technologia AI jest jednoznaczna na całym spektrum technologicznym.
Oznacza to, że kiedy jeden system AI zawodzi, ludzie mają ten sam emocjonalny stan i percepcję na temat innych systemów, mimo, że mogą zasadniczo się różnić. Jeśli ChatGPT robi błędy, to Perplexity też musi je robić. Jeśli jestem zły na asystenta AI jednej firmy, jestem zły na wszystkie rozwiązania tego typu.
To zjawisko ma potężne znaczenie dla marketingowców, ponieważ muszą oni walczyć nie tylko o budowanie wyróżników marki, ale również intensywnie pracować nad zbudowaniem wyróżników systemów AI w świadomości klienta. Brandowanie (nadawanie cech marki) modelom AI stanie się coraz istotniejszą rolą marketingu i liderów, szczególnie tam, gdzie sztuczna inteligencja będzie odgrywać kluczowe znaczenie w produkcie lub komunikacji z klientem.
Ludzie są mniej wyrozumiali dla humanizowanego AI
Jednym z najbardziej ekscytujących dla biznesu zastosowań AI jest obsługa klienta. Utrzymanie stałego poziomu obsługi, szkolenie pracowników, zatrudnianie dużej grupy osób do tych zadań dla wielu firm stanowi poważne wyzwanie finansowe. Z tej perspektywy nauczenie modelu wszystkiego co powinien wiedzieć o obsłudze, a następnie zaimplementowanie go w odpowiedni sposób może znacznie ograniczyć trudności związane z zatrudnieniem, szkoleniem i utrzymaniem pracowników w działach obsługi klienta.
Możliwości dzisiejszych modeli AI pozwala tak upodobnić ich do ludzi, że naturalnym jest budowanie dodatkowych cech, które mają na celu humanizację AI. Budujemy avatary, które wyglądają jak ludzie. Nadajemy im imiona. Tworzymy dla nich historię.
Badania profesora Raji Srinivasana i Gulen Sarial-Abiego wskazują, że im bardziej „humanoidalne” AI, tym więcej przypisywanych jest mu cech ludzkich takich jak zdolność do przewidywania, myślenia, racjonalizacji czy planowania. Właśnie ten proces przypisywania dodatkowych cech jednocześnie sprawia, że wyidealizowane AI, które nie spełnia wymagań klienta staje się jeszcze większym rozczarowaniem.
Szczególnie w przypadku negatywnych emocji (pokazuje to badanie analizujące ponad 500 000 konwersacji z chatbotem AI), ludzie z jednej strony czują frustrację i złość, a z drugiej mają świadomość, że nie rozmawiają z prawdziwym człowiekiem, przez co nie mają potrzeby empatyzacji z osobą „po drugiej stronie słuchawki”.
Julian De Freitas wskazuje, że znacznie lepiej sprawdzają się rozwiązania, które już na starcie deklarują, że są modułami AI i postarają się pomóc najlepiej jak potrafią.
Zaprogramowane preferencje wywołują skandal
Każde AI przechodzi przez jedną lub kilka faz uczenia. Dzięki procesowy przepuszczania dużych ilości danych przez model, jesteśmy w stanie modyfikować jego przyszłe reakcje i odpowiedzi. Okazuje się jednak, że świadomość nadania preferencji w procesie uczenia się może być dla klientów zbyt kontrowersyjna. Pomijając fakt etyki AI (między innymi ukrywania własnych uprzedzeń w modelowaniu), świadomość, że np. model może być lepiej wyposażony w możliwości pomocy specyficznej płci lub grupie wiekowej, powoduje w badanych osób co najmniej poczucie dyskomfortu.
Kiedy zestawiając tego typu grupowe podejście do zagadnień z pogranicza etyki, np. czy samochód sterowany AI w przypadku potencjalnego wypadku powinien uderzyć seniora czy małe dziecko – reakcja badanych była bardzo negatywna i była określana mianem skandalu.
Dodatkowe badanie Yochana Bigmana i Kurta Graya wskazuje, że ludzie zdecydowanie lepiej oceniają strukturalne podejście do komunikowania modelowania systemów AI. W przypadku przywołanego samochodu oznaczałoby to wybór zderzenia z mniejszą liczbą ludzi gdyby AI musiało dokonać takiego trudnego wyboru.
Wracamy jednak w tym przypadku do pierwszego problemu, związanego z metodami poznawczymi. Mając możliwość zrozumienia sztucznej inteligencji tylko przez pryzmat swoich emocji, klient nie może przeanalizować całego procesu uczenia się AI i ocenić czy jest on etyczny czy nie. W związku z tym rekomenduje się znaczne ograniczenie komunikacji na temat modelowania i uczenia się systemów AI.
Marketerzy muszę być zaangażowani w adopcje AI
Jak pokazują powyższe przykłady, percepcja klienta na temat firmy i marki może w znaczny sposób wynikać z postrzegania technologii. Tak jak w przypadku zrównoważonego rozwoju, mamy do czynienia z nowym wyzwaniem dla menadżerów odpowiedzialnych za zarządzanie markami.
Odpowiednie przygotowanie marketingu do rozumienia implementowanych technologii oraz wdrożenie ich w pełną komunikację tych technologii może w kolejnej dekadzie być największych wyzwaniem pogodzenia operacyjnej doskonałości firmy, a jej wizerunkiem i preferencjami klienta. Jeśli już dzisiaj rosną negatywne opinie na temat obsługi klienta realizowanej przez AI, to mamy przed sobą problem, który musi zostać rozwiązany zarówno poprzez rozumienie klienta, komunikację rozwiązań i feedbacku na temat reakcji rynku do liderów, którzy w adaptacji AI widzą jedynie poprawę procesów wewnętrznych.
Jeśli przed Tobą nowe wyzwania związane z komunikacją adopcji AI, zapisz się do naszego newslettera. Będziemy poruszać coraz więcej tego typu tematów, żeby wspierać liderów, menadżerów i marketerów w tym nowym wyzwaniu.
Spis treści:
