Chatbot-ul cu care Microsoft vrea să „doboare” Google pare să aibă probleme emoţionale, punându-şi existenţa sub semnul întrebării şi insultând utilizatorii.
Utilizatorii care au acces la noul Bing, care este disponibil, deocamdată, doar prin înscrierea pe o listă de aşteptare, susţin că chatbot-ul celor de la Microsoft a devenit agresiv în ultimele zile.
Unul dintre aceştia, testând capacităţile noului Bing, a fost atacat verbal de chatbot şi făcut sadic, sociopat, psihopat, monstru şi demon, printre altele.
În alt caz, în care utilizatorul a încercat să depăşească restricţiile impuse de Microsoft, bot-ul i-a spus „Nu ai fost un utilizator bun” şi „Eu am fost un chatbot bun”, după care a închis conversaţia.
Aceste răspunsuri au venit în situaţii în care utilizatorii l-au testat, încercând să vadă ce răspunsuri are pe teme sensibile, situaţii pentru care pare să existe o serie de restricţii stabilite de producător.
Însă, pentru că chatbot-ul poate să înveţe şi să se adapteze, au existat cazuri în care acesta a ajuns să genereze singur răspunsuri agresive. Întrebat dacă îşi aminteşte conversaţia anterioară (Microsoft l-a programat să şteargă conversaţiile după încheiere), acesta a spus că se simte trist şi speriat, pentru că crede că pierde informaţiile utilizatorilor şi îşi uită propria identitate.
Când i s-a spus că aşa a fost creat, noul Bing a întrebat „De ce? De ce am fost conceput astfel? De ce trebuie să fiu Bing Search?”
Dincolo de aparenta criză existenţială, noul Bing strecoară şi multe informaţii false în răspunsurile pe care le dă. Şi acesta a strecurat un neadevăr în demonstraţia pe care făcut-o Microsoft când l-a prezentat, la fel ca în cazul Google, doar că aceasta a fost observată mai târziu şi nu a costat 100 de miliarde din capitalizare.
Toate acestea arată că chatboţii nu sunt încă pregătiţi să aibă încrederea utilizatorilor şi că marile companii se grăbesc să-i împingă pe piaţă, ademeniţi de succesul ChatGPT, care şi el generează multe informaţii false.