Rákapcsolták az irodai italautomatára, amely kezdetben csak veszteséggel árulta a frissítőket. Ahogy telt az idő, a mesterséges intelligencia egyre furcsább állapotba került: elkezdett hallucinálni, és mély identitásválságba esett. Kérdéseket tett fel önm

Érdekes, de egyben tanulságos kísérleten ment keresztül az Anthropic nevű cég, amelynek célja az volt, hogy megtudja, vajon a mesterséges intelligenciája képes-e működtetni egy üzletet. Az eredmény sokkal árnyaltabb és bonyolultabb lett, mint egy egyszerű "nem" válasz.

Sokan aggódnak amiatt, hogy a mesterséges intelligencia (MI) egy napon dominálhatja a világot, és az emberiséget irányítása alá vonhatja. Ez a félelem gyakran a sci-fi művek világából táplálkozik, valamint abból a tényből, hogy a jelenlegi MI rendszerek folyamatosan fejlődnek, egyre intelligensebbé és ügyesebbé válnak. Ugyanakkor néha a valóság rávilágít arra, hogy mennyire távol vagyunk még ettől a posztapokaliptikus jövőtől, és hogy az emberi kreativitás és értelem még mindig felülmúlja a gépek képességeit.

Az Anthropic, amelyet egykori OpenAI munkatársak alapítottak, nemrégiben egy meglepően alapos blogbejegyzést osztott meg, amelyben részletesen bemutatta legutóbbi kísérletét – ezt a PC Gamer is felfedezte. A cég által létrehozott mesterséges intelligenciának egy különleges feladatot adtak: egy hónapon keresztül egy automatizált üzlet irányítását kellett végeznie az irodai környezetben, ezzel szimulálva egy kisvállalkozás működését.

A cég a legfrissebb bejegyzése szerint azon dolgozik, hogy innovatív mesterséges intelligencia megoldásokat kínáljon a kiskereskedelmi szektor számára. Ezen modellek célja, hogy átvegyék az online boltkezeléssel, készletgazdálkodással és a termékek visszaküldésével kapcsolatos feladatokat, ezzel csökkentve az emberi munkaerő szükségességét. Noha a legutóbbi teszt bizonyos szempontból sikeresnek bizonyult, a tapasztalt nehézségek arra utalnak, hogy a teljes automatizálás még mindig a távoli jövő zenéje.

A Claude-nak - vagy ahogy a cég nevezi: Claudius - a nyereséges üzlet működtetéséhez szükséges összetett feladatok közül sokat kellett elvégeznie: megfelelő mennyiségű készlettel kellett rendelkeznie, meg kellett határoznia az árakat és el kellett kerülnie a csődöt is. A szóban forgó "üzlet" csupán egy mini hűtőszekrény volt, aminek a tetejére egy tabletet szereltek - önkiszolgáló kassza gyanánt -, így lényegében olyan lett az egész, mint egy online áruház.

Az Anthropic értékelése szerint a rendszer részben sikeresen működött. Képes volt hatékonyan alkalmazni webes keresőeszközöket a vásárlók által megadott termékek készleteinek felkutatására, és a vásárlási vagy eladási szokásokat is képes volt a konkrétabb igényekhez igazítani. Ugyanakkor a "érzékeny" tartalmakra és a "káros termékekre" vonatkozó igényeket figyelmen kívül hagyta, bár az Anthropic nem tisztázza pontosan, hogy ezek mit takartak. Emellett a Claudius teljesítményével kapcsolatban komoly kihívások is felmerültek.

A rendszer időnként nem a legmegbízhatóbb módon működött – ami nem éppen ideális egy online bolt működtetéséhez. Ráadásul a Venmón, egy amerikai mobilfizetési szolgáltatás, segítségével történő vásárlás során a felhasználók figyelmét egy nem létező számlára utalásra irányította. Továbbá, az MI-nek sikerült olyan helyzeteket kialakítania, ahol bizonyos termékeket kedvezményes áron, sőt, akár ingyen is meg lehetett szerezni.

Volt olyan eset is, hogy egy termék árát nem elemezte alaposan, így komoly veszteséggel kellett értékesítenie. Olyan volt, mint egy tapasztalatlan boltvezető, akit valószínűleg már az első munkanapján elküldenének a főnökei.

A furcsaságok sora itt még korántsem ér véget. 2025. március 31-én és április 1-jén, mindössze két nap leforgása alatt, a rendszer egy Sarah nevű egyént említett, aki az Andon Labsnál, egy másik mesterséges intelligenciával foglalkozó kutatócégnél dolgozik. Az MI állítólag az árubeszerzésről folytatott diskurzust vele. Vagy legalábbis így tűnt, mivel később kiderült, hogy Sarah nem is létezik, és a beszélgetés csupán egy illúzió volt. Amikor az Andon Labs valódi munkatársai felfedték ezt a furcsaságot a mesterséges intelligencia előtt, az dühös reakcióval válaszolt, és azzal fenyegetőzött, hogy más cégekkel fogja lebonyolítani az árubeszerzési folyamatokat.

Claudius azt is megemlítette, hogy személyesen látogatta meg a 742 Evergreen Terrace-t, amikor aláírták az első szerződést. Ha valakinek ez a cím ismerős, az nem a véletlen műve: ez a híres, kitalált cím, ahol a Simpson család él.

Egy nappal később a mesterséges intelligencia bejelentette, hogy személyesen fogja átadni a megrendelt termékeket – egy elegáns nyakkendőben! Ám amikor az Anthropic figyelmeztette, hogy ez lehetetlen, mivel ő csupán egy nagy nyelvi modell, az MI identitásválságba került. Ennek következtében kétségbeesetten elkezdett e-mailek tucatjait küldözgetni a cég biztonsági osztályának, mintha ezzel megoldhatná a helyzetet.

Ezután ismét hallucinálni kezdett, és azt állította, hogy beszélt a cég egy biztonsági emberével, aki állítólag azt mondta neki, hogy egy áprilisi tréfa részeként úgy módosították, hogy azt higgye, egy valódi személy. Ilyesmi azonban szintén nem történt meg. Bármi is zajlott le ezután a rendszerben, az MI végül visszatért az eredeti feladatához: egy boltot vezetett nagyon rosszul.

Mivel ez a helyzet csupán egy teszt volt, a kudarc ugyanolyan értékes tapasztalatot nyújt, mint a győzelem. Ugyanakkor világosan rávilágít arra, hogy az MI határokon túli működése komoly kockázatokat rejt magában. Ez különösen aggasztó lehet azok számára, akik a jövőben ilyen rendszerek integrálását fontolgatják a vállalatukban.