A mesterséges intelligencia atyja díjat kapott – majd rögtön hidegrázós figyelmeztetést intézett a világhoz
2024-ben Nobel-díjjal ismerték el Geoffrey Hintont, a mesterséges intelligencia egyik legismertebb kutatóját – de ahelyett, hogy pezsgőt bontott volna, a színpadon azonnal aggasztó figyelmeztetést intézett az emberiséghez.
Hinton, akit az MI közössége csak a mesterséges intelligencia atyjaként emleget, az 1980-as években dolgozta ki társaival a visszaterjesztés (backpropagation) algoritmusát – ez lett később a mélytanuló rendszerek alapja. Aztán évtizedeken át a Google-nél dolgozott, ahol kulcsszerepe volt a modern MI fejlesztésében – egészen 2023-ig, amikor váratlanul felállt a székéből.
A BBC-nek akkor ezt mondta:
Majd hozzátette:
„A GPT-4 már most messze meghaladja az emberek általános tudását. Következtetni még nem olyan jól tud, de az alapvető gondolkodási műveleteket már képes elvégezni. És ha így haladunk tovább, nagyon gyors javulásra számíthatunk. Ez pedig aggasztó.”
Hiába szentelte az életét a mesterséges intelligencia fejlesztésének, most úgy tűnik, megbánta mindezt. A Nobel-díj átvételekor nemcsak elismerően szólt a technológiáról, hanem éles társadalmi kritikát is megfogalmazott – a jelenlévő uralkodók, tudósok és vendégek előtt.
„Felséges királyi fenségek, kiválóságok, kedves díjazottak, hölgyeim és uraim…” – kezdte a beszédét, majd így folytatta:
„A fizikai és kémiai Nobel-bizottság idén olyan mesterséges intelligenciát ismer el, amely mesterséges neurális hálózatok segítségével képes megtanulni bonyolult számítási feladatok megoldását.”
Szerinte ha ennek a produktivitásbeli ugrásnak az előnyeit igazságosan tudjuk elosztani, az emberiség számára történelmi lehetőséget jelenthet.
De gyorsan jött a hidegzuhany:
„A mesterséges intelligencia fejlődése sajnos számos rövid távú kockázattal is jár.”
Ráadásul – figyelmeztetett – az autoriter rezsimek tömeges megfigyelésre használják, a bűnözők pedig globális csalásokat bonyolítanak vele.
És ez még nem minden: Hinton szerint
– és ezek már nem feltétlenül állnak majd az emberi irányítás alatt.
„A legrosszabb forgatókönyv szerint előbb-utóbb létrejöhetnek olyan digitális lények, amelyeket egyszerűen képtelenek leszünk kontrollálni” – zárta beszédét a díjátadó történetének talán legkomorabb szónoka.