Informacja o systemach sztucznej inteligencji

1. Rozmawiacie Państwo z systemem AI

Agent AIvatary jest systemem sztucznej inteligencji. Informujemy o tym w trzech miejscach naraz, żeby nikt nie musiał się domyślać: w pierwszej wiadomości rozmowy, w opisie okna rozmowy oraz w niniejszym dokumencie. Rozmowa nie udaje kontaktu z człowiekiem i agent nie przedstawia się jako osoba.

2. Do czego używamy sztucznej inteligencji

3. Co dzieje się z treścią przekazaną do modelu

1. Do modelu językowego trafia treść pytania, historia bieżącej rozmowy oraz fragmenty bazy wiedzy odnalezione dla tego konkretnego pytania. Nie wysyłamy całej bazy wiedzy ani danych innych organizacji.
2. Zakres wyszukiwania jest ograniczony do jednej organizacji na poziomie samego zapytania do bazy. Nie jest to filtr nałożony na wynik, tylko warunek, bez którego zapytanie w ogóle nie powstaje. Fragment należący do innej organizacji nie ma jak trafić do kontekstu modelu.
3. Treść przekazana do dostawcy modelu podlega jego umowie powierzenia. Dostawcy wymieniamy z nazwy w wykazie podprocesorów.
4. Nie wykorzystujemy treści rozmów naszych klientów do trenowania własnych modeli.

4. Czego model nie może zrobić

Trzy ograniczenia stoją w kodzie przed modelem, a nie za nim, więc nie są zależne od tego, jak model się zachowa.

1. Odpowiedź musi mieć pokrycie w źródłach. Kontrola odbywa się, zanim klient zobaczy pierwszy znak. Odpowiedź bez pokrycia jest odrzucana w całości, a rozmowa idzie do człowieka. Nie ma trybu „wyślij, a potem sprostuj”.
2. Model nie zmienia danych. Operacja, która miałaby zmienić stan czegokolwiek, zamienia się w kartę potwierdzenia zatwierdzaną przez operatora osobnym kliknięciem, ze śladem w dzienniku audytu.
3. Model nie wybiera sobie narzędzi. Katalog dostępnych operacji jest zamknięty i konfigurowany przez naszego klienta, z dwoma niezależnymi wyłącznikami awaryjnymi.

5. Zapisy przebiegu

Każda tura rozmowy zostawia zapis w dzienniku audytu: jakie fragmenty wiedzy zostały pobrane, jaka decyzja zapadła i co zostało wysłane. Treści rozmowy w tym zapisie nie ma: niesie identyfikatory, kody i metryki, a numery PESEL, IBAN, telefony, adresy e-mail, numery kart i tokeny, które przeszłyby przez ślad decyzji, są zamieniane na znaczniki, zanim zdarzenie trafi do dziennika. Dane osoby pojawiają się w dzienniku tylko tam, gdzie są przedmiotem wpisu. Dziennika nie da się nadpisać.

6. Nadzór człowieka

1. Rozmowa trafia do człowieka, gdy klient o to poprosi, gdy brakuje pokrycia w bazie wiedzy, gdy narzędzie zawiedzie albo gdy temat wykracza poza zakres ustalony przez naszego klienta. Katalog powodów jest zamknięty i każde przekazanie jest odnotowane.
2. Baza wiedzy przechodzi cykl redakcyjny prowadzony przez ludzi. Agent widzi wyłącznie wersje opublikowane, więc to redakcja, a nie model, decyduje o tym, co może zostać powiedziane.
3. Pytania bez pokrycia w bazie trafiają do rejestru luk, czyli listy dla redakcji. To zamyka pętlę: człowiek uzupełnia wiedzę, a nie model ją wymyśla.

7. Czego ta technologia nie potrafi

Model językowy operuje na prawdopodobieństwie, nie na rozumieniu. Dlatego całą konstrukcję opieramy na tym, żeby jego swoboda kończyła się na doborze słów, a nie sięgała treści i skutków. Odpowiedź agenta nie jest poradą prawną, medyczną ani finansową, chyba że nasz klient sam opublikował taką treść i bierze za nią odpowiedzialność jako jej autor.

8. Jazda próbna Ady

Na stronie „Wypróbuj Adę na swojej stronie” odwiedzający może bez konta sprawdzić, jak Ada odpowiadałaby klientom wskazanej firmy. Próba różni się od wdrożenia u naszego klienta w trzech miejscach i opisujemy je wprost:

1. Wiedza bez redakcji człowieka. Treść do 25 publicznych podstron wskazanej strony, bez podstron o ludziach, publikujemy automatycznie, z pominięciem cyklu redakcyjnego z sekcji 6. Ada odpowiada wyłącznie z tej treści, więc może powtórzyć błąd albo nieaktualną informację ze strony. To jedyny wyjątek od zasady, że o tym, co agent może powiedzieć, decyduje człowiek.
2. Bez narzędzi i bez przekazania człowiekowi. W próbie Ada niczego nie umawia, nie zapisuje spraw i nie przekazuje rozmowy zespołowi, bo w próbie nie ma zespołu: gdy odpowiedź nie ma pokrycia w treści strony, Ada mówi, że tego na stronie nie znalazła. Mówi też, co zrobiłaby w pełnej wersji.
3. Telefon wychodzący. Gdy odwiedzający zamówi telefon i potwierdzi numer kodem SMS, Ada dzwoni raz na ten numer. Rozmowę zaczyna stałe zdanie odtwarzane przez system, a nie układane przez model: że dzwoni asystentka oparta na sztucznej inteligencji, że to demonstracja AIvatary na przykładzie strony wskazanej firmy, a nie telefon w imieniu tej firmy, i że rozmowa jest zapisywana w formie tekstu. Gdyby synteza tego zdania zawiodła, to samo przedstawienie wypowiada model według stałej instrukcji. Odpowiedzi formułuje model głosowy OpenAI na podstawie treści strony, a na dźwięk zamienia je ElevenLabs. Rozmowa trwa około pięciu minut i nie dłużej niż sześć, a gdy rozmówca chce skończyć, Ada żegna się jednym zdaniem. Zapis tekstowy rozmowy usuwamy po jej zakończeniu, a gdy rozmówca podał adres e-mail, po wysłaniu go na ten adres.

Dane z próby opisuje Część III polityki prywatności, a warunki usługi Zasady jazdy próbnej.

9. Kontakt

Pytania dotyczące działania systemów AI prosimy kierować na contact@aivatary.com. Zasady przetwarzania danych opisuje polityka prywatności.