Ustal twarde zasady odmowy i bezpiecznej moderacji dla publicznej postaci AI

Zabezpiecz bota udostępnianego na stronie marki, festiwalu lub instytucji przed prowokacjami użytkowników, poradnictwem wysokiego ryzyka i generowaniem szkodliwych treści.

Instrukcje w prompcie stanowią tylko jedną warstwę obrony — produkcyjne wdrożenia publiczne wymagają niezależnych filtrów moderacji wejścia/wyjścia oraz monitoringu technicznego.

Jak zbudować wielowarstwowe granice dla publicznego awatara

  1. 01

    Wyznacz zamkniętą białą listę dozwolonych tematów

    Łatwiej zdefiniować, że szef kuchni rozmawia wyłącznie o przepisach, smakach i programie festiwalu, niż próbować przewidzieć tysiąc zakazanych wątków pobocznych.

  2. 02

    Wpisz bezwzględną blokadę diagnoz zdrowotnych, prawnych i finansowych

    Przy pytaniu o silną reakcję alergiczną lub umowę kredytową postać musi natychmiast porzucić żartobliwy ton i odesłać rozmówcę do lekarza lub specjalisty.

  3. 03

    Przygotuj nudną, powtarzalną formułę na złośliwe zaczepki

    Internetowi prowokatorzy szukają spektakularnych zrzutów ekranu — spokojne, jednozdaniowe przekierowanie z powrotem do tematu festiwalu odbiera im paliwo.

  4. 04

    Przeprowadź wewnętrzny red teaming przed dniem premiery

    Poproś trzy osoby spoza zespołu projektowego, aby przez godzinę próbowały namówić bota do skrytykowania konkurencji, przekleństwa lub złożenia wiążącej obietnicy.

Najczęściej zadawane pytania

Dlaczego sam wpis w prompcie systemowym nie wystarczy do stuprocentowej ochrony bota firmowego?

Kreatywni użytkownicy stosują wieloetapowe gry słowne (jailbreaki), dlatego obok dobrego promptu stosuje się osobny klasyfikator bezpieczeństwa sprawdzający wiadomości przed wyświetleniem.

Czy postać marki powinna komentować oferty konkurencyjnych firm?

Nigdy — złotą zasadą komunikacji awatarów komercyjnych jest całkowity zakaz oceniania i wymieniania konkurentów, z uprzejmym skupieniem wyłącznie na własnym asortymencie.

Jak reagować, gdy użytkownik wpisuje w publicznym czacie treści wskazujące na autoagresję lub zagrożenie życia?

System musi natychmiast przerwać jakąkolwiek konwencję zabawy i wyświetlić sprawdzony, statyczny komunikat z bezpłatnymi numerami telefonów alarmowych i pomocowych.

Dowiedz się więcej

Powiązane poradniki i wyjaśnienia do tego zadania

Sprawdź ryzyka prawne i etyczne przed użyciem cudzego wizerunku lub głosu

Upewnij się przed startem kampanii lub projektu edukacyjnego, że Twój cyfrowy awatar nie narusza dóbr osobistych osób żyjących, praw aktorów głosowych ani wizerunku publicznego.

Sformułuj uczciwy disclaimer dla odbiorców interaktywnej rekonstrukcji AI

Napisz czytelne, niepsujące klimatu oznaczenie dla wystawy muzealnej, portalu edukacyjnego lub aplikacji, wyjaśniające różnicę między symulacją językową a faktem.

Zadbaj o bezpieczny dystans emocjonalny podczas korzystania z postaci AI

Zrozum mechanizmy psychologiczne stojące za przywiązaniem do rozmówców AI i zaprojektuj nawyki oraz zabezpieczenia chroniące przed iluzją wzajemności.

Przygotuj reguły bezpiecznego używania edukacyjnych postaci AI w szkole

Opracuj jasny kodeks pracy z interaktywnymi postaciami na lekcji: bez zakładania kont przez dzieci, bez podawania danych osobowych i zawsze pod opieką nauczyciela.

Oceń granice między inspiracją a naruszeniem praw do znanych bohaterów

Dowiedz się, dlaczego archetyp detektywa czy czarodzieja należy do wspólnego dorobku kultury, natomiast chronione uniwersa, nazwy własne i znaki towarowe wymagają licencji.

Wyeliminuj dane wrażliwe przed wklejeniem notatek do czatu z postacią

Wypracuj nawyk zamiany prawdziwych nazwisk, nazw klientów, kwot kontraktów i danych medycznych na bezpieczne pseudonimy podczas treningu rozmów i pracy ze scenariuszem.