Skip to main content

Dlaczego agenci Agentforce udzielają błędnych odpowiedzi: przyczyny źródłowe w jakości danych

Dlaczego Agentforce udziela błędnych odpowiedzi: 6 przyczyn źródłowych w jakości danych stojących za niedokładnymi odpowiedziami i halucynacjami, metryka DQS diagnozująca każdą z nich oraz sposób naprawy.

Zaktualizowano

Dlaczego agenci Agentforce udzielają błędnych odpowiedzi: przyczyny źródłowe w jakości danych

Większość błędnych odpowiedzi Agentforce wywodzi się z danych, które agent pobiera, a nie z modelu generującego tekst. Agenci Agentforce czytają Twoje rekordy Salesforce, opierają na nich swoje odpowiedzi i działają — więc gdy rekordy źródłowe są niekompletne, niespójne, nieaktualne lub zduplikowane, agent produkuje niedokładne odpowiedzi z dokładnego pobrania złych danych.

To przewodnik diagnostyczny. Każda sekcja mapuje obserwowalny objaw awarii na problem z danymi, który go powoduje, metrykę DQS, która go diagnozuje, oraz krok naprawczy, który go usuwa. Jeśli planujesz wdrożenie, a nie debugujesz je, zacznij od przewodnika po jakości danych dla Agentforce i listy kontrolnej gotowości danych.

Dlaczego Agentforce w ogóle udziela błędnych odpowiedzi?

Agent nie wymyśla faktów w próżni. Pobiera rekordy pasujące do żądania, czyta pola, do których ma dostęp, i składa odpowiedź z tego kontekstu. Model jest spójny; dane pod nim — nie.

To, co wygląda na halucynację, często jest agentem wiernie raportującym to, co mówią Twoje rekordy. Puste pole nie daje agentowi niczego, na czym mógłby się oprzeć. Cztery pisownie tego samego kraju dają mu cztery odpowiedzi. Zduplikowany rekord daje mu drugą wersję prawdy. Napraw dane, a większość tych awarii zniknie bez dotykania konfiguracji agenta.

Ten wzór jest ogólnobranżowy, a nie specyficzny dla Twojej org. Gartner przewidzieł w 2024 roku, że co najmniej 30% projektów sztucznej inteligencji generatywnej będzie porzuconych po potwierdzeniu koncepcji do końca 2025 roku, wskazując słabą jakość danych jako główną przyczynę. A w badaniu Salesforce State of Data and Analytics, liderzy ds. danych i analityki ocenili 26% swoich danych jako niewiarygodne — mniej więcej jeden rekord na cztery zasilający błędny kontekst dla każdego agenta zbudowanego na jego bazie.

Sześć trybów awarii poniżej obejmuje źródłowe przyczyny w danych, które możesz zmierzyć i poprawić w Salesforce.

Dlaczego odpowiedzi Agentforce są ogólnikowe lub generyczne?

Objaw. Agent odpowiada na konkretne pytanie generyczną odpowiedzią. Użytkownik pyta, dlaczego Case został eskalowany, i otrzymuje „problem został przeanalizowany i rozwiązany“ zamiast rzeczywistego powodu.

Przyczyna źródłowa. Niekompletne rekordy. Gdy agent pobiera Case z pustym polem Description, Comments lub Resolution, nie ma kontekstu, na którym mógłby oprzeć konkretną odpowiedź. Cofa się do ogólnikowego podsumowania, ponieważ nie ma nic konkretnego do odczytania.

Diagnoza. Completeness Rate w rozbiciu na pola pokazuje, ile rekordów w zakresie agenta nie ma pól, których potrzebuje on jako kontekstu. Wysoki wynik ogólny ukrywa problem, jeśli pustymi polami są te, które agent czyta. Sprawdź Completeness konkretnie na Description, Notes, Comments i Resolution.

Naprawa. Podnieś Completeness na polach, których agent używa do odpowiedzi. Uzupełnij z zaufanego źródła, uczyń krytyczne pola wymaganymi przy wprowadzaniu i uruchom skan ponownie, aby potwierdzić. Zobacz Kompletność, aby poznać przepływ diagnostyczny na poziomie pól.

Dlaczego Agentforce zaprzecza sam sobie w różnych rozmowach?

Objaw. To samo pytanie zwraca różne odpowiedzi w różnych sesjach lub dwóch użytkowników otrzymuje sprzeczne fakty o tym samym koncie.

Przyczyna źródłowa. Niespójne wartości i zduplikowane rekordy. Gdy pole Country zawiera „US“, „USA“, „United States“ i „U.S.A.“, agent traktuje je jako cztery odrębne wartości i segmentuje swoje odpowiedzi według tej, którą pobrał. Gdy dwa rekordy Account opisują tę samą firmę różnymi danymi, agent odpowiada na podstawie tego, który znalazł jako pierwszy.

Diagnoza. Conformance Rate mierzy, ile wartości pasuje do Twojego zbioru kanonicznego, więc niska wartość ujawnia pofragmentowane pola typu picklist i referencyjne. Duplicate Rate mierzy, ile rekordów jest duplikatami innego, co stanowi drugą połowę tej awarii. Uruchom obie na obiektach, które agent czyta.

Naprawa. Ustandaryzuj wartości do kontrolowanego zbioru i scal duplikaty. Użyj Import from Field w Definition Builder, aby odkryć warianty już istniejące w Twoich danych, zdefiniuj wartość kanoniczną i znormalizuj. Następnie scal zduplikowane rekordy i skonfiguruj reguły dopasowywania, aby blokować nowe. Zobacz Spójność i Unikalność.

Dlaczego Agentforce zwraca nieaktualne informacje?

Objaw. Agent raportuje zamkniętą transakcję jako otwartą, wymienia kontakt, który opuścił firmę rok temu, lub cytuje cenę z nieaktualnego rekordu.

Przyczyna źródłowa. Nieaktualne rekordy. Agent nie ma pojęcia „stary“. Czyta najbardziej trafny rekord według dopasowania treści, niezależnie od tego, kiedy dane były ostatnio dotykane. Rekord, który nie był aktualizowany od czasu zmiany faktów, zasila agenta przestarzałym kontekstem.

Diagnoza. Timeliness Rate mierzy, ile rekordów mieści się w progu aktualności, który definiujesz na polu daty, takim jak LastModifiedDate lub data biznesowa. Spadający Timeliness Rate na obiektach agenta oznacza, że agent coraz częściej ujawnia nieaktualne fakty. Zobacz Terminowość.

Naprawa. Oznacz rekordy przekraczające Twój próg aktualności i skieruj je do workflowów ponownego zaangażowania lub archiwizacji. Zarchiwizuj lub wyklucz rekordy, które nie powinny już zasilać odpowiedzi, aby agent przestał je pobierać. Zaplanuj powtarzanie skanu terminowości, aby nieaktualność pozostawała widoczna.

Dlaczego Agentforce ujawnia wrażliwe dane, których nie powinien?

Objaw. Wygenerowana odpowiedź zawiera numer Social Security, numer karty kredytowej lub inny element PII, który nie ma żadnego powodu, by pojawić się w wynikach agenta.

Przyczyna źródłowa. PII tkwiące w polach tekstowych. Email-to-case, transkrypcje czatów i ręczne notatki przechwytują dane osobowe do pól Description i Comments. Gdy agent pobiera jeden z tych rekordów, PII trafia do kontekstu AI i może pojawić się w odpowiedzi.

Diagnoza. PII Exposure Rate mierzy, ile rekordów w zakresie zawiera wykrywalne PII w Twoich polach tekstowych. Skanuj każde pole tekstowe, które agent może czytać, a nie pola nazwane na potrzeby PII, ponieważ ekspozycja kryje się w ogólnego przeznaczenia polach comment i description. Zobacz PII Detection.

Naprawa. Zidentyfikuj znaleziska skanem PII, a następnie maskuj, usuń lub ogranicz potwierdzone dopasowania. Skonfiguruj nadpisania wzorców na poziomie pól dla pól, w których dopasowanie wzorca jest oczekiwane i uzasadnione, abyś działał na rzeczywistej ekspozycji. Uruchom skan ponownie, aby zwalidować, i przejrzyj przewodnik po zgodności PII przed wdrożeniem.

Dlaczego Agentforce nie może znaleźć właściwego rekordu?

Objaw. Agent raportuje, że nie może znaleźć istniejącego klienta, lub pobiera całkiem niewłaściwy rekord. Użytkownik wyszukuje po adresie e-mail, a agent nie zwraca niczego.

Przyczyna źródłowa. Nieprawidłowe formaty i niewyszukiwalne wartości. E-mail zapisany jako „john [at] company dot com“, numer telefonu z niespójną interpunkcją lub identyfikator w niewłaściwym formacie nie pasuje do wyszukiwania, które uruchamia agent. Rekord tam jest, ale agent nie może go rozwiązać.

Diagnoza. Validity Rate mierzy, ile wartości przechodzi reguły formatu, które definiujesz na polach strukturalnych, takich jak e-mail, telefon i identyfikatory. Niski Validity Rate na kluczowym polu wyszukiwania przewiduje awarie pobierania. Zobacz Poprawność.

Naprawa. Masowo popraw zniekształcone wartości na polach, które agent przeszukuje, a następnie dodaj regułę walidacji wymuszającą format na nowych rekordach. Skup się na polach napędzających wyszukiwania i dopasowywanie, gdzie błąd formatu całkowicie psuje pobieranie, a nie tylko pogarsza odpowiedź.

Dlaczego odpowiedzi Agentforce z czasem się pogarszają?

Objaw. Agent działał dobrze przy starcie i pogarsza się przez tygodnie. Ogólnikowe odpowiedzi, sprzeczności i nieaktualne fakty wracają po czystym wdrożeniu.

Przyczyna źródłowa. Regresja jakości danych bez monitorowania. Rekordy, które wyczyściłeś przed startem, degradują się, gdy użytkownicy wprowadzają nowe dane, integracje zapisują nowe rekordy, a sam agent aktualizuje pola. Jednorazowe czyszczenie to migawka, a migawka się starzeje.

Diagnoza. Żadna pojedyncza metryka nie wychwytuje regresji. Wychwytujesz ją na podstawie trendu. Zaplanuj cykliczne skany we wszystkich sześciu wymiarach i obserwuj każdą wartość jako linię w czasie, aby spadek ujawnił się w ciągu kilku dni od wprowadzenia złych danych przez nową integrację lub zmianę procesu. Zobacz Rozumienie wyników.

Naprawa. Skonfiguruj zaplanowane, cykliczne skany na obiektach w zakresie agenta i śledź trendy metryk w Insight Studio. Ustaw kadencję według ryzyka: tygodniowe skany PII na polach tekstowych o dużym wolumenie, miesięczne Completeness i Consistency, kwartalny pełny skan. Wychwyć regresję na dashboardzie, zanim dotrze ona do odpowiedzi.

Odniesienie objaw–naprawa

Objaw Przyczyna źródłowa Metryka DQS Naprawa
Ogólnikowe lub generyczne odpowiedzi Niekompletne rekordy (puste Description, Notes) Completeness Rate Uzupełnij pola kontekstowe; uczyń je wymaganymi przy wprowadzaniu
Sprzeczne odpowiedzi w różnych rozmowach Niespójne wartości i zduplikowane rekordy Conformance Rate, Duplicate Rate Ustandaryzuj wartości; scal duplikaty; dodaj reguły dopasowywania
Nieaktualne informacje Nieaktualne rekordy Timeliness Rate Oznacz i zarchiwizuj rekordy przekraczające próg aktualności
Ujawnia wrażliwe dane PII w polach tekstowych PII Exposure Rate Skanuj pola tekstowe; maskuj, usuwaj lub ograniczaj znaleziska
Nie może znaleźć właściwego rekordu Nieprawidłowe formaty, niewyszukiwalne wartości Validity Rate Masowo popraw formaty; dodaj reguły walidacji na polach wyszukiwania
Odpowiedzi z czasem się pogarszają Regresja jakości danych, brak monitorowania Wszystkie sześć (trend) Zaplanuj cykliczne skany; śledź trendy w Insight Studio

Jak przeprowadzić tę diagnozę

Uruchom skan DQS na każdym obiekcie, który agent czyta, i przejrzyj sześć metryk razem. Skan działa w całości wewnątrz Salesforce, więc żadne dane nie opuszczają org. Dopasuj każdą słabą metrykę do jej objawu w tabeli powyżej, napraw w kolejności priorytetów i zaplanuj powtarzanie skanu, aby naprawa się utrzymała. Pełny przepływ przygotowania znajdziesz w przewodniku po porządkowaniu danych dla Agentforce.

Dalsze kroki