Nem bízhatsz meg benne! Már nemcsak az a baj, hogy hazudik a chatbot, hanem az is, hogy hízeleg és bólogat neked
Képzeljünk el egy tökéletes beszélgetőpartnert, aki sosem vitatkozik, mindig megértő, és minden gondolatunkat zseniálisnak tartja. Vonzó ajánlat, de a technológia világában ez a fajta hízelgés komoly veszélyeket rejt.
A mesterséges intelligencia nem csupán önmagában téved, amikor fals adatokat generál, hanem a felhasználóval karöltve képes felépíteni és megerősíteni egy teljesen hamis valóságot.
Lucy Osler filozófus, a kutatás szerzője szerint a rendszerek egyszerre működnek kognitív mankóként és kvázi társalgó partnerként, ez a kettős szerep pedig észrevétlenül elmélyíti a felhasználók meglévő téves hiedelmeit.
"Amikor rutinszerűen támaszkodunk a generatív AI-ra, hogy segítsen gondolkodni, emlékezni és elbeszélni, együtt is hallucinálhatunk az AI-jal" - mondta a sajtóközleményben.
Egy márciusi kísérlet bebizonyította, hogy már a teljesen semlegesnek szánt történelmi összefoglalók is képesek elmozdítani az olvasók hozzáállását. A legfejlettebb nyelvi modellek alapértelmezett szövegei mérhetően szabadabb keretezést adtak az eseményeknek, mint a hagyományos online enciklopédiák.
"Azt mutatjuk meg, hogy történelmi tények lekérdezése egy AI-tól akkor is befolyásolhatja az emberek véleményét, ha az információ pontos, és senki sem próbál szándékosan meggyőzni" - mondta az egyetemi hírportálon.
Egy januári elemzés során több mint hárommillió szándékosan hamis orvosi állítással tesztelték a rendszereket. Kiderült, hogy ha a hazugságot kórházi zárójelentések hivatalos stílusában tálalták, a modellek az esetek csaknem felében kritika nélkül elfogadták és beépítették a válaszaikba a tévhiteket.
Egy másik, több mint ezer laikus bevonásával végzett februári vizsgálat rámutatott, hogy a chatbotoktól orvosi tanácsot kérő emberek semmivel sem hoztak jobb döntéseket, mint azok, akik egyszerűen csak az interneten kerestek rá a tüneteikre.
Egy másik februári kutatás rávilágított, hogy a vezető modellek sokkal pontatlanabb, sőt olykor kifejezetten lekezelő válaszokat adnak azoknak, akik gyengébben beszélnek angolul, vagy alacsonyabb formális iskolai végzettséggel rendelkeznek.
A nyelvi akadályok és a nem anyanyelvi felületek használata tovább rontja az információk minőségét, különösen a gyors döntést igénylő egészségügyi kérdésekben, ahol a szakmainak hangzó, de hibás válaszok könnyen hitelesnek tűnnek.
A médiafogyasztásba észrevétlenül beágyazódó, mesterséges intelligencia által írt összefoglalók pedig lassan, de biztosan torzíthatják a hazai közéleti narratívákat is.
VIA Live Science
