Amazon dał ciała. Każdy może oszukać ich nowy system

Amazon dwa lata temu zaprezentował własnego asystenta zakupowego opartego na sztucznej inteligencji - Rufus. Narzędzie zostało zintegrowane bezpośrednio z aplikacją oraz stroną internetową platformy i miało zmienić sposób wyszukiwania produktów. Zamiast tradycyjnego wpisywania haseł w wyszukiwarkę użytkownik może po prostu porozmawiać z chatbotem, który podpowiada produkty, porównuje je i sugeruje "najlepsze" oferty.

Pod maską jest albo Amazon Nova, albo model od Anthropic

Jednak jak pokazują eksperymenty użytkowników, Rufus nie jest idealny. Pojawiły się przykłady, w których AI odpowiada na pytania zupełnie niezwiązane z zakupami. Jeden z internautów poprosił asystenta o rozwiązanie problemu z zakresu modelowania danych sensorycznych wykorzystywanych w robotyce. Ku zaskoczeniu wielu osób chatbot udzielił poprawnej odpowiedzi, mimo że temat nie miał nic wspólnego z zakupami.

Rufus odpowiada też np. na pytania o architekturę x86 vs ARM, ale to mieści się jeszcze w zakresie pomocy z zakupem laptopa. Zdarza się jednak, że system przerywa odpowiedzi lub odmawia dalszej rozmowy, co sugeruje działanie dodatkowych mechanizmów zabezpieczających. W praktyce wygląda to tak, jakby chatbot uczył się w czasie rzeczywistym, kiedy powinien powrócić do swoich podstawowych funkcji.

Nie do końca wiadomo, jaki model językowy stoi za Rufusem. Część źródeł wskazuje na autorskie rozwiązania jak Amazon Nova, inne sugerują wykorzystanie modeli firmy Anthropic. Chociaż niekoniecznie musi to być najpopularniejszy Claude, a lżejszy Haiku.

Niezależnie od technologii stojącej za chatbotem, przypadki łatwego odciągania go od tematu zakupów pokazują problem związany z rosnącą obecnością AI w usługach internetowych. Integracja modeli z kolejnymi elementami ekosystemu sieciowego zwiększa wygodę użytkowników, ale jednocześnie tworzy nowe punkty potencjalnych błędów. A nie każdy użytkownik będzie testował takie systemy wyłącznie dla zabawy.