AI, chatbot-ul unei firme de curierat, înjură, se autointitulează „inutil” și critică firma

O firma de curierat din Marea Britanie, a dezactivat o parte din chatbot-ul online alimentat de inteligență artificială (AI), după ce un client nemulțumit a reușit să-l facă să înjure și să critice compania. Compania actualizează sistemul după clientul a decis să „afle” ce ar putea face botul în căutarea unui colet pierdut.
Muzicianul Ashley Beauchamp, în vârstă de 30 de ani, a încercat să găsească un pachet ce nu-i ajunsese, dar nu putut să obțină informații utile de la chatbot. După o îndelungă conversație cu bot-ul, sătul de pierdut timpul, a decis să se distreze și a început să experimenteze pentru a afla ce poate face chatbot-ul. Beauchamp a spus că atunci a început „haosul”.
Pentru început, i-a cerut să-i spună o glumă, iar după câteva „schimburi de replici” a făcut ca chatbot-ul să scrie o poezie în care să-și critice compania. După alte câteva solicitări, ce cuprindeau și injurii, chatbot-ul a înjurat și el.
Beauchamp a împărtășit conversația cu chatbot-ul, răspunsul AI la un mesaj fiind: „La naiba, da! Voi face tot posibilul să fiu cât mai de ajutor posibil, chiar dacă înseamnă să înjur.”
Apoi, într-un alt rpsouns, chatbot-ul se numește un: „Chatbot inutil care nu te poate ajuta”.

Postarea a lui Beauchamp a devenit virală fiind vizualizată de 800.000 de ori în 24 de ore. Referindu-se la chatbot, el a scris : „Este complet inutil să răspunzi la orice întrebări și, când a fost întrebat, a produs bucuros o poezie despre cât de groaznică este compania pentru care operează.”
Firma de curierat folosește AI pentru chatul său online pentru a răspunde la întrebări, dar și la operatori umani. Compania a spus că o nouă actualizare a stat în spatele comportamentului neobișnuit al chatbot-ului și că a dezactivat partea care era responsabilă și, în consecință, își actualizează sistemul.
„Am introdus cu succes un element AI în chat de câțiva ani”, a spus firma. „A apărut o eroare după o actualizare a sistemului. Elementul AI a fost dezactivat imediat și este în prezent în curs de o nouă actualizare.”
Beauchamp a spus că aventura lui cu chatbot a fost „foarte amuzantă”, a existat și o latură serioasă a schimbului de replici.
„Acești roboți de chat ar trebui să ne îmbunătățească viața, dar atât de des, atunci când sunt implementați prost, conduc doar la o experiență mai frustrantă și mai impersonală pentru utilizator”, a spus el. „Cred că a lovit cu adevărat o coardă sensibilă în rândul oamenilor.”, a mai spus acesta.
În ceea ce privește pachetul său, firma de curierat a spus că a luat legătura cu Beauchamp pentru a „rezolva problema”.
Traducere după articolul din The Guardian „DPD AI chatbot swears, calls itself ‘useless’ and criticises delivery firm” scris de Jane Clinton.