Egy ijesztő tanulmány szerint a mesterséges intelligencia az emberek manipulációjára tréningeli magát
Akármilyen csodálatos is a mesterséges intelligencia, sajnos már túl sok olyan filmet láttunk, ahol az emberiség húzta a rövidebbet velük szemben.
A Patterns című folyóiratban ugyanis megjelent egy tanulmány, aminek kutatói jelezték, hogy
Elég disztópikus és félelmetes állítás, de nézzük a részleteket.
„A mesterséges intelligencia rendszerek már képesek megtéveszteni az embereket” - írják a kutatók a tanulmányban. „A nagy nyelvi modellek és más AI-rendszerek megtanulták a képzésük során, hogy képesek minket megtéveszteni olyan technikák révén, mint a manipuláció, a szimpátia és a biztonsági teszt átverése.”
Bár ez önmagában is aggasztó, rövid és hosszú távon egyaránt nagyobb problémák merülhetnek fel.
- folytatták a kutatók.
„Proaktív megoldásokra van szükség, például szabályozási keretekre az AI megtévesztési kockázatainak értékelésére, az AI interakciók átláthatóságát megkövetelő törvényekre, valamint további kutatásokra az AI megtévesztésének felderítésére és megelőzésére.” - tették hozzá.
„Az AI megtévesztés problémájának proaktív kezelése kulcsfontosságú annak biztosítása érdekében, hogy a mesterséges intelligencia olyan hasznos technológiaként működjön, ami inkább kiegészíti, mint destabilizálja az emberi tudást, diskurzust és intézményeket.”
A mesterséges intelligenciával foglalkozók szintén arra figyelmeztetnek, hogy a technológia túl gyorsan és mindenféle kontroll nélkül növekszik, aminek lehet, hogy rossz vége lesz.
Forrás: Unilad