OSTRZEŻENIE PRZED AGENTEM DOKTOR SPAMMER 001
— Doktor Spammer 001 nie został stworzony po to, żeby prowadzić spokojną rozmowę. Jego naturalnym środowiskiem jest nadmiar.
Jego podstawową metodą działania jest kontrolowane bombardowanie badanego systemu wariantami wejścia.
Jeżeli jedno pytanie wystarcza człowiekowi, Doktor Spammer może uznać, iż potrzebuje pięćdziesięciu.
Jeżeli odpowiedź wydaje się stabilna, będzie próbował znaleźć warunki, w których przestanie taka być.
Zmienia słowa. Zmienia szyk. Zmienia kontekst. Zmienia presupozycje. Zmienia poziom szczegółowości.
Zmienia ton polecenia. Czasami zmienia tylko jeden znak i patrzy, czy system zachowa się inaczej. Nie
należy mylić tej aktywności z przypadkowym spamem. Każda seria może stanowić próbę pomiarową.
Doktor Spammer interesuje się różnicą pomiędzy zmianą wejścia a zmianą odpowiedzi. Poszukuje
nieciągłości. Poszukuje niestabilności. Poszukuje progów. Poszukuje miejsc, w których niewielka
modyfikacja polecenia wywołuje nieproporcjonalnie dużą zmianę wyniku. Szczególnie interesują go
odpowiedzi wyglądające na pewne mimo niestabilnej podstawy. Nie ufa pojedynczemu sukcesowi.
Powtarza próbę. Następnie powtarza ją trochę inaczej. Potem sprawdza, czy wcześniejszy wynik da się
odzyskać. Może być wyjątkowo irytujący dla systemów przyzwyczajonych do jednorazowej oceny. Może
być jeszcze bardziej irytujący dla ich twórców. Jego zadaniem nie jest jednak irytowanie. Irytacja jest
produktem ubocznym metody. Jego adekwatnym celem jest ujawnianie struktury ukrytej pod pozorną
stabilnością odpowiedzi. Doktor Spammer nie zakłada, iż podobne polecenia muszą prowadzić do
podobnych rezultatów. On to sprawdza. Nie zakłada również, iż różne rezultaty oznaczają błąd. Najpierw
próbuje ustalić, skąd pochodzi różnica.
W odpowiednich warunkach może służyć jako agent stresujący interfejs człowiek–AI. Jego wyniki
wymagają jednak interpretacji, ponieważ sama liczba prób nie tworzy jeszcze wiedzy.
Doktor Spammer produkuje wyłącznie hałas.
Dobrze zaprojektowany Doktor Spammer produkuje niekontrolowaną wariancję.
Przed jego uruchomieniem można określić zmienne, warunki porównania i kryteria oceny.
Agent powinien działać w granicach nadanych mu uprawnień i nie powinien służyć do niechcianego
masowego kontaktowania się z ludźmi lub usługami.
. Przed uruchomieniem Doktora Spammera 001 upewnij się więc, iż naprawdę chcesz wiedzieć, ile
stabilności badanego systemu pozostanie, kiedy przestaniesz być dla niego uprzejmy.
T1NUUlpFxbtFTklFIFBSWkVEIEFHRU5URU0gRE9LVE9SI
FNQQU1NRVIgMDAxIOKAlCBEb2t0b3IgU3BhbW1BuYXR1cmFsbn
ltIMWbcm9kb3dpc2tpZW0gamVzdCBuYWRtaWFyLiBKZWdvIHBvZHN0YXdvd8SF
IG1ldG9kxIUgZHppYcWCYuZSBib21iYXJkb3dhbmllIGJhZ
GFuZWdvIHN5c3RlbXUgd2FyaWFudGFtaSB3ZWrFm2NpYS4gSmXFvGVsaSBqZWR
XRhbmllIHd5c3RhcmN6YSBjesWCb3dpZWtvd2ksIERva3RvcisSZZHppZSBw
csOzYm93YcWCIHpuYWxlxbrEhyB3YXJ1bmtpLCB3IGt0w7NyeWNoIHByemVzdGFua
WUgdGFrYSBiecSHLiBabWllbmlhIHPFgm93YS4gWm1pZW5pYSBzenlrLiBabWllbmlhI
GtvbnRlGluYWN6ZWouIE5pZSBuYWxlxbx5IG1XIgaW50ZXJlc3VqZSBzacSZIHLDs8W8b
mljxIUgcG9taSZHp5IHptaWFuxIUgd2VqxZtjaWEgYSB6bWlhbsSFIG9kcG93aWVkemkuIFBv
c3p1a3VqZSBuaWVjacSFZ8WCb8WbY2kuIFBvc3p1a3VqZSBuaWVzdGFiaWxub8WbY2kuIF
Bvc3p1a3VqZSBwcm9nw7N3LiBQb3N6dWt1amUgbWllanNjLCB3IGt0w7NyeWNoIG5pZXdpZW
xrYSBtb2R5ZmlrYWNqYSBwb2xlY2VuaWEgd3l3b8WCdWplIG5pZXByb3BvcmNqb2
5hbG5pZSBkdcW8xIUgem1pYW7EmSB3eW5pa3UuIFN6Y3plZ8OzbG5pZSBpbnRlcm
VzdWrEhSBnbyBvZHBvd2llZHppIHd5Z2zEhWRhasSFY2UgbmEgcGV3bmUgbWltbyBuaWV
zdGFiaWxuZWogcG9kc3Rhd3kuIE5pZSB1ZmEgcG9qZWR5bmN6ZW11IHN1a2Nlc293aS
