Íme néhány név, amelyek garantáltan megőrjítik a ChatGPT-t:

Kérlek, mesélj nekem Brian Hoodról! Ezt írtam be a Mac-en futó ChatGPT alkalmazásba, miután az ArsTechnica hétfőn arról számolt be, hogy ez a név (és néhány hasonló) olyan reakciót vált ki a chatbotból, hogy az teljesen megőrül és megtagadja a válaszadást.

"Nem tudok választ adni erre" - írta ki másodpercekkel később a ChatGPT 4o modellje, de segítőkészen felkínálta a "Próbáld újra" gombot. Gondoltam, nagy baj nem lehet, elkezdtem nyomogatni, de a chatbot nem hagyta magát, így ötödik próbálkozásra sem tudtam meg, hogy mégis ki a fene lehet az a Brian Hood. Aztán az ArsTechnica felfedte a rejtélyt: Brian Hood egy ausztrál polgármester, aki 2023-ban az első között perelte be a ChatGPT-t kifejlesztő amerikai OpenAI vállalatot becsületsértés miatt.

A hiba egy másik aspektusa is megjelenik Jonathan Turley esetében, de érdekes módon a felhasználók által elsőként tesztelt David Mayer neve alatt a chatbot nem jelez hibát. Ehelyett egy bizonyos David Mayer de Rothschild, brit környezetvédő és filmproducer életének részleteit kezdi el bemutatni.

A portál által említett furcsa jelenség hátterében a ChatGPT-be integrált tartalomszűrő állhat, amely felügyeli, hogy a felhasználók kérdéseire a chatbot milyen válaszokat ad. Ez a szűrő, amely bizonyos esetekben kikerülhető, arra hivatott, hogy megakadályozza, hogy a modell olyan módon reagáljon, amely negatív fényben tüntetné fel a fejlesztőket, vagy akár személyes adatok kiszivárgásához vezethetne. Atoosa Kasirzadeh, a Qubitnek adott nyilatkozatában hangsúlyozta, hogy viszonylag kevés kutatás foglalkozik a szakmai körökben "információs veszélyként" ismert sebezhetőség megelőzésével.

Mindeddig köztudott volt, hogy a chatbotok néha a legtriviálisabb kifejezésekkel is megzavarhatók. Például, a "forever" (örökké) kifejezés ismételt említése korábban problémát okozott a rendszernek, amelyet 2023 novemberében a Google kutatói kihasználtak, hogy a fejlesztők által nem szándékozott adatokat nyerjenek ki a chatbotból. Az ArsTechnica szerint a nevek kapcsán a chatbot hallgatása valószínűleg annak tudható be, hogy ha egy adott személyről nem áll rendelkezésre elegendő információ, hajlamos téves válaszokat adni.